인공지능이 안전하고 신뢰할 수 있으며 제어 가능하다는 것을 보장하는 것은 인류 문명의 발전에 도움이 되며 인공지능 발전을 위해 해결해야 할 중요한 문제입니다. 중국 공산당 제20기 중앙위원회 3차 전체회의 '결정'에서는 '인공지능 안전 감독 시스템 구축', '생성 인공지능 개발 및 관리 메커니즘 개선' 등 중요한 조치가 이뤄졌다. 인공지능 거버넌스를 강화하고, 인공지능 개발로 인해 발생하는 다양한 보안 위험을 효과적으로 예방 및 해결하며, 인공지능 안전 감독의 제도화 및 합법화를 지속적으로 개선하는 방법은 무엇입니까? 이 학술판은 이러한 문제에 중점을 둡니다.
시진핑(習近平) 총서기는 “인공지능은 새로운 과학기술 혁명과 산업 변혁의 중요한 원동력이며, 세계 경제와 사회 발전, 인류 문명의 진보에 심오한 영향을 미칠 것”이라고 지적했다. 지능이란 텍스트, 그림, 소리, 비디오, 코드 및 기타 콘텐츠에 대한 알고리즘, 모델 및 규칙을 기반으로 하는 인공 지능의 생성을 의미합니다. 대용량 데이터와 강력한 컴퓨팅 파워를 바탕으로 이해하고 말하고 상호작용할 수 있는 생성형 인공지능은 반복적으로 빠르게 업그레이드되어 우수한 상호작용성, 높은 다양성, 지능적 생성성 등의 특성을 보이며 업계 각계각층과 협력하고 있습니다. 더욱 견고하고 빈번하며 유비쿼터스적이고 깊은 연결을 형성했으며 이는 또한 점점 더 많은 실제 잠재적 위험으로 이어졌습니다. 중국 공산당 제20기 중앙위원회 3차 전체회의 '결정'에서는 인공지능 발전의 법칙과 특성을 과학적으로 파악하고, '인공지능 안전 감독 체계 구축'과 '개발 및 개선을 개선할 것'을 제안했다. 생성적 인공지능의 관리 메커니즘'은 더 나은 조화로운 개발과 안전의 필요성을 반영합니다. 이는 인공지능 분야의 기술 진보, 산업 발전 및 보안을 촉진하기 위한 앞으로의 길을 제시하는 객관적인 필요성입니다.
생성적 인공지능의 기술적 운용은 사전 학습 훈련과 수동 주석 지원 알고리즘 업그레이드의 준비 단계, 생성된 결과물을 얻기 위한 알고리즘 처리를 위한 데이터 입력 계산 단계, 생성된 결과물의 세 단계로 나눌 수 있습니다. 세대 단계에서 사용되는 제품. 우리는 생성적 인공 지능의 작동 메커니즘을 심층적으로 분석하고, 각 단계에서 보안 위험의 형성 및 발전 특성을 파악하고, 법적 수단을 사용하여 체계적인 거버넌스를 강화하고, 생성적 인공 지능에 포함된 거대한 힘이 항상 제 역할을 하도록 보장해야 합니다. 법치주의의 궤도에 있습니다.
생성적 인공지능의 준비 단계에서는 데이터 보안 위험이 자주 발생하기 쉽고 더욱 두드러집니다. 생성적 인공 지능은 데이터 훈련, 데이터 처리 및 분석을 통해 정보를 개선하고 추세를 예측합니다. 이를 위해서는 데이터의 적절한 분류와 다양한 유형의 데이터에 대한 활용 패턴 및 보호 방법을 확립하여 관련 데이터 보안 위험에 적절히 대응하고 데이터의 불법 사용이나 부적절한 공개를 방지하여 침해 분쟁을 방지해야 합니다. 예를 들어, 정부 처리 과정에서 형성된 정부 데이터는 디지털 정부의 핵심 요소입니다. 상대적으로 정확한 결론을 도출하기 위해 생성 인공지능은 필연적으로 정부 데이터를 수집하고 분석한다. 생성 인공 지능에 의한 정부 데이터의 획득 및 활용에 대한 법적 규칙을 명확히 해야 합니다. 이는 정부 데이터를 사용하여 사회에 봉사해야 한다는 요구를 충족할 뿐만 아니라 대규모 인공 지능 정부 모델의 개발, 훈련 및 적용을 강력하게 지원합니다. 서비스를 제공하고, 공공 서비스와 사회 거버넌스의 지능적 수준을 향상시키며, 정부 데이터를 사용하여 얻은 결과가 개인 권리를 침해하고 사회 및 공공 질서를 방해하지 않도록 처리 방법을 표준화합니다. 개인정보의 경우 생성인공지능이 결합분석을 통해 그 잠재적 가치를 탐색하고, 개인정보의 수집, 활용 및 그 결과가 시민권을 침해할 우려가 있다. 실제로 생성 인공 지능은 의료 및 건강 데이터를 분석하여 개인의 소재를 파악하고 개인의 삶의 궤적을 예측하는 등 결론의 정확성을 높이기 위해 개인 데이터를 과도하게 수집하는 경향이 있습니다. 이를 위해 우리는 법률에 따라 수집해야 하며, 기술이 요구하는 최소한의 범위에 따라 개인 데이터를 수집하고, 데이터 처리의 합리적인 깊이를 설정하고, 잠재적인 정보의 과잉 이용을 방지해야 합니다. 요약하면, 데이터 보안 위험이 특정 법적 피해 결과로 발전하는 것을 방지하기 위해 분류되고 계층적인 데이터 보안 감독 요구 사항이 생성 인공 지능의 준비 단계에 포함되어야 합니다.
생성적 인공지능의 컴퓨팅 단계에서 대규모 인공지능 모델에 내재된 알고리즘 편향의 위험은 경계할 가치가 있습니다. 생성 인공지능은 주로 알고리즘 모델을 통해 데이터를 분석하고 처리한다. 기존 알고리즘 모델과 달리 생성 인공 지능은 기계 학습을 수행할 뿐만 아니라 수많은 수동 주석을 사용하여 기계 학습의 결론을 수정하고 인공 지능의 진화를 촉진합니다. 하지만 알고리즘 기술의 핵심인 '머신러닝 + 수동 주석' 역시 순수한 머신러닝보다 인간의 의지와 선호도가 더 큰 영향을 미치게 만들 것이다. 개인 선호도의 영향은 알고리즘 모델 자체의 편향에 중첩되어 알고리즘 편향의 부정적인 영향을 두 배로 늘려 알고리즘 편향의 발생을 추적하고 예방하기가 더 어렵게 만듭니다. 알고리즘 편향 위험을 예방하고 해결하기 위해서는 알고리즘 편향이 발생하는 원칙과 사이트를 기반으로 타겟 거버넌스가 이루어져야 합니다. 생성 인공 지능의 알고리즘 모델에 법적 규제 요구 사항을 깊이 포함하고, 선의를 위한 기술을 촉진하고, 알고리즘 편견을 제거하고, 생성 인공 지능 알고리즘의 합리적 사용을 보장하고 컴퓨팅 리소스를 할당해야 합니다. 기술과 관리의 결합이라는 개념을 바탕으로 알고리즘의 전주기 안전 감독을 강화하고, 생성 인공지능 운영 전 과정에 법적 규제 요구사항을 구현하겠습니다. 알고리즘 설정 초기에는 관련 법적 규칙 및 기술 표준을 따르고, "기계 학습 + 수동 주석"의 규범적 요구 사항을 구현하고, 위험한 알고리즘 모듈을 검토하고, 생성 인공 지능 알고리즘의 기술적 위험을 더 잘 발견해야 합니다. 모델 발견 시 선천적인 알고리즘 편향이 발생하면 생성 인공 지능의 알고리즘 내에서 선천적인 알고리즘 편향을 제거하는 것이 법으로 요구됩니다. 수정된 알고리즘이 정상적으로 실행될 수 있도록 수정하고, 나중에 문제가 발생할 경우 인공지능 알고리즘의 소스를 추적하여 정확한 귀속 및 수정을 달성하고, 생성 인공지능에 대한 알고리즘 감독 표준 개선을 촉진하고, 이전의 격차를 메웁니다. 예방적 검토 개발과 관리를 동등하게 강조하기 위해서는 불충분한 기술적 수단과 법적 수단을 병행하여 사용해야 합니다.
생성적 인공지능의 생성 단계에서는 생성된 제품과 관련된 지적재산권 리스크, 생성된 제품의 오용 위험 등 다양한 리스크가 존재한다. 생성적 인공지능은 지능이 높기 때문에 자동 콘텐츠 편집, 지능형 연마, 다중 모드 변환 및 창의적 생성을 실현할 수 있으며, 이전 인공지능 시스템과 비교하여 콘텐츠의 생산 방식과 공급 모델을 직접적으로 변경하는 파괴적인 변화가 발생했습니다. 생성 인공지능으로 생성된 결과물의 지적재산권 소유권, 지적재산권 보호 등의 문제가 제기됐다. 어떤 사람들은 생성적 인공지능의 산물이 지적 노동이 아니라 본질적으로 계산과 모방인 데이터 알고리즘의 결론이고 지적재산권의 대상이 될 수 없다고 생각한다. 반대자들은 생성 인공 지능이 인간 뇌 신경망의 구조를 시뮬레이션하여 데이터를 획득하고 출력하며, 컨볼루션 신경망을 통해 자체 설계 및 제조를 제어하며, 독창적이고 혁신적인 제품은 지적 재산권법에 의해 보호되어야 한다고 믿습니다. 동시에 생성 인공지능은 지적재산권 분쟁의 위험과 보호의 어려움도 증가시킵니다. 처리 및 기타 수단을 통해 관련 지적재산권 분쟁을 유발합니다. 관련 문제를 적시에 해결하기 위해서는 생성된 제품이 가능하도록 인간 의지의 개입이 필요한 기술의 경우 생성 인공지능의 기술 모델과 기술 원리가 지적재산권법의 기준에 따라 실질적으로 분석되어야 합니다. 독창성과 혁신을 창출하려면 지적재산권을 부여해야 하며, 생성 인공지능 분야에서 소유권을 명확히 하고 지적재산권의 체계적 보호를 강화하는 동시에 생성된 지적재산권의 보호 범위를 합리적으로 결정해야 합니다. 보호 범위의 무제한 확장을 방지하고 생성 인공 지능의 홍보, 응용 및 기술 개발을 방해하는 재산권. 또한, 제품의 오용 위험에 대한 관리를 강화할 필요가 있습니다. 예를 들어 저작물은 저작자의 창작에서 생성 인공지능의 역할을 명확하게 규명해야 하며, 불법 범죄와 관련될 수 있는 심층 위조, AI 얼굴 변경 및 기타 생성 제품에 대한 정확하고 정규화된 감독이 강화될 것입니다.
생성적 인공지능은 위에서 언급한 위험 외에도 정보 비대칭 심화, 디지털 격차 확대, 디지털 취약계층의 이익 침해 등 다양한 유형의 위험이 존재합니다. 신기술이 사회 발전에 미치는 부정적인 영향을 최소화하기 위해서는 실제 상황을 바탕으로 대응해야 합니다.
시진핑(習近平) 총서기는 “인민지향과 선을 위한 지혜를 견지하라”고 강조했다. 현재 인공지능 기술은 날이 갈수록 변화하고 있으며, 이는 사람들의 생산과 생활 방식을 근본적으로 변화시키고 경제 및 사회 발전 과정을 가속화할 뿐만 아니라 법적 규범, 도덕 윤리, 공공 거버넌스 등에 영향을 미치고 있습니다. 그 중에서도 개인정보 보호에 대한 위협과 개인정보 보안은 주목할만한 중요한 이슈입니다. 중국 공산당 제20기 중앙위원회 3차 전체회의 '결정'에서는 '인공지능 안전 감독 시스템 구축'을 위한 중요한 조치가 마련됐다. . 인공지능 시대에는 개인정보의 보안을 보장하기 위해 개인정보 보호가 강화되어야 합니다.
인공지능 시대에 개인정보 보호 권리는 심각한 도전에 직면해 있습니다. 프라이버시란 자연인의 사생활의 평화와 사적인 공간, 사적인 활동, 타인에게 알리고 싶지 않은 사적인 정보를 말합니다. 민법은 “자연인은 프라이버시권을 향유하며 어떠한 조직이나 개인도 염탐, 침입, 유출, 공개 등의 방법으로 타인의 프라이버시권을 침해할 수 없다”고 규정하고 있습니다. 인격권은 개인의 존엄성을 구축하는 데 중요한 기반입니다. 공개되지 않고 알려지지 않는 것은 프라이버시 권리의 핵심 요구입니다. 현재 인공 지능은 사람들의 생산과 생활의 모든 측면에 조용히 관여하여 스마트 의료, 스마트 교통, 스마트 추천 등 많은 응용 시나리오를 낳고 있습니다. 기술 자체의 특정 결함과 불완전한 규칙은 무시할 수 없습니다. 개인정보 침해 문제를 방지하세요. 예를 들어, 개인정보를 불법적으로 수집 및 이용하고, 이러한 개인정보를 이용 및 분석하여 소위 "맞춤형" "정밀광고"를 빈번하게 게재하고 개인정보를 제3자에게 유출하여 스팸정보를 이용하여 사생활을 빈번하게 침해하는 행위, "하나의 고객, 하나의 가격"이라는 정확한 가격 차별을 달성하기 위해 "빅 데이터" "익숙함 제거"를 수행하는 정보, 시민이 재산 손실을 입거나, 민감하지 않은 개인정보가 재식별되고, 부적절한 보호 조치로 인해 데이터가 유출되고, 개인정보의 불법 매매가 흔하며, 개인정보의 심층 위조, 음성 시뮬레이션, 개인정보 보안 침해가 발생합니다. AI 얼굴 변경 등은 사기 등 불법적이고 범죄적인 행위를 의미합니다. 이는 사생활권 침해가 국민 개인의 존엄성을 침해할 뿐만 아니라, 다른 심각한 사회적 결과를 초래한다는 점을 보여준다.
박탈 기술적 특징은 개인정보 보안 위험을 더욱 악화시킵니다. 빅데이터 기반 인공지능의 적용 초기에는 많은 사람들이 관망하는 태도와 회의적인 태도로 이 신기술을 바라보았습니다. 인공지능이 의인화된 외형, 개인화된 서비스 제공, 몰입형 인터랙티브 프로세스를 통해 사용자의 제품 경험과 심리적 감정을 지속적으로 향상함에 따라 점점 더 많은 사람들이 인공지능의 충성스러운 사용자가 되어 인공지능이 제공하는 모든 종류의 편리함을 누리고 있습니다. 너. 인간과 컴퓨터의 상호 작용과 모든 사물의 상호 연결을 위한 IoT 기술이 대중화됨에 따라 스마트 홈, 스마트 오피스, 스마트 공장, 스마트 운전 등의 인공 지능 응용 시나리오도 개인이 지속적으로 수요를 제시하고 서비스를 얻을 수 있게 확대되고 있습니다. 디지털 인간 형태의 디지털 공간을 만들고, 자신도 모르게 개인정보를 인공지능에게 전송하기도 한다. 디지털 공간에 개인이 남긴 모든 흔적은 디지털화되어 개인정보를 형성하고, 사람들에게 '세상과 연결되는 매개체'로서 중요한 기능을 수행합니다. 동시에 인공지능은 서비스 품질 향상을 위해 개인정보를 과도하게 수집하고 활용하는 경향도 있다. 이 모든 것들은 인공지능이 독특한 탈사유화 기술적 특징을 갖게 만듭니다. 공공데이터와 개인데이터가 뒤섞인 빅데이터가 채굴, 통합, 분석, 활용되는 것도 인공지능 사용자들이 익숙한 개인정보의 흐름 속에서 개인이 프라이버시를 감지하기 어렵다. 권리가 침해되고 개인정보가 침해당하면 보안이 더 위험해집니다.
개인의 선택을 존중하고 사전 동의를 주장합니다. 사람마다 개인정보가 알려지고 이용되는 것에 대한 수용 수준이 다릅니다. 개인의 의사는 존중되어야 하며, '사전 동의'의 원칙은 과학적, 합리적으로 구현되어야 합니다. 사전 동의의 원칙에는 사전 동의와 동의가 있어야 한다는 두 가지 측면이 포함됩니다. 완전한 지식과 이해가 없으면 진정한 동의는 있을 수 없습니다. 정보, 이해, 자발성은 사전 동의 원칙의 세 가지 요소입니다. 완전한 "정보"를 바탕으로 개인은 독립적으로 "동의"를 표현할 수 있습니다. 이를 위해서는 이용자가 인공지능을 사용할 때 이해하기 쉽고 명확한 설명을 제공하고, 개인정보 수집 및 이용에 대한 이용자의 동의를 얻어야 합니다. 개인정보가 서로 다른 플랫폼 간에 이동하는 경우 흐름의 범위, 대상 및 사용 경계를 사용자에게 알려야 합니다. 훌륭하고 원활한 사용자 경험을 위해 사용자에게 한 번에 또는 단계적으로 인증 옵션을 제공할 수도 있습니다. 개인정보를 수집하는 범위, 방법, 목적, 개인정보가 누구와 공유되는지를 이용자에게 알려야 하며, 이용자는 언제든지 이를 거부할 수 있어야 합니다. 개인정보를 분석함에 있어서는 팝업창이나 기타 형태를 통하여 이용자에게 실시간으로 주의 및 동의를 유도하도록 하여야 합니다. 데이터 수명주기를 설정하고 개인정보를 적시에 삭제하는 것도 개인정보의 보안을 보호하는 효과적인 방법입니다.
지능을 영원히 보장하기 위해 기술적 수단을 개선합니다. 기술로 인해 발생하는 문제에 대해서는 기술적인 관점에서 문제를 해결하기 위한 아이디어 수립을 잘해야 합니다. 인공지능 시대에 개인정보 보호 권리는 도전에 직면해 있으며, 직접적인 계기는 기술의 진화입니다. 분석 인공 지능부터 생성 인공 지능까지, 인공 지능 기술의 모든 반복적인 업그레이드는 개인 정보 보호 권리에 새로운 영향을 미칠 수 있습니다. 따라서 기술적 솔루션을 핵심 위치에 배치해야 하며, 데이터베이스 보안, 핵심 데이터 암호화, 개인 데이터 탈감작화 등의 기술을 개선하여 개인 정보 보호 권리와 개인 정보 보안을 보호하는 방화벽을 구축해야 합니다. 개인정보는 일반적으로 수집, 저장, 이용의 3단계를 거치며, 이 3단계에는 개인정보 보호권과 보안이 침해될 위험이 있습니다. 효과적인 기술적 보호는 개인정보의 다양한 상황에 따라 다양한 단계에서 수행되어야 합니다. 개인정보 수집 단계에서는 익명화 기술의 홍보 및 적용을 강화합니다. 개인정보 수집은 불가피하지만, 익명처리되어 개인정보와 신원이 일치하지 않는 한, 프라이버시권은 침해되지 않습니다. 개인정보 저장 단계에서는 암호화 기술을 개선해야 합니다. 현재 데이터 저장에는 데이터베이스 저장과 클라우드 저장이라는 두 가지 주요 방법이 있습니다. 개인정보 보관단계에서 외부 침입, 도난, 내부자에 의한 무단 열람, 이용, 유출 등은 개인정보의 보안에 대한 주요 위협입니다. 데이터 암호화를 강화하고 데이터 접근권한을 엄격하게 통제할 필요가 있다. 개인정보 이용단계에서는 개인정보의 실시간 개입, 간섭, 차단 등을 기술적으로 강화하여 개인정보 보호 및 개인정보 보호에 대한 보호를 한층 강화할 필요가 있습니다.
우리나라의 법규는 점점 완성도가 높아지고 보호가 계속 강화됨에 따라, 특히 민법과 개인정보보호법에서는 개인정보 보호에 관한 권리와 개인정보 보호에 관한 세부 규정을 두고 있어 개인정보 처리 활동에 대한 권리와 의무의 경계를 명확히 하고 있습니다. , 인공지능 시대의 우리나라 개인정보 보호 권리와 개인정보 보안에 대한 법적 보호는 반드시 더 높은 수준에 도달하여 인공지능의 건전한 발전을 위한 강력한 법적 보호를 제공하고 국민에게 더 나은 혜택을 제공할 것입니다.
과학기술이 번영하면 나라가 흥망성쇠하게 되고, 과학기술이 강하면 나라가 강해지게 됩니다. 중국공산당 제18차 전국대표대회 이후 우리나라는 인공지능 발전을 중시하고 인터넷, 빅데이터, 인공지능, 실물경제의 심층적 통합을 적극적으로 추진하며 지능산업을 육성하고 확대했다. 새로운 생산력의 발전을 가속화하고 고품질 발전을 위한 새로운 추진력을 제공했습니다. 시진핑 총서기는 "법에 따라 발전과 관리를 촉진하는 통일성을 견지해야 하며, 인공지능, 사물인터넷, 차세대 통신망 등 신기술과 신응용을 적극 육성해야 할 뿐만 아니라, 또한 새로운 기술의 적용을 안내하기 위해 법률, 규정 및 표준을 적극적으로 사용합니다." 시진핑 총서기의 중요한 박람회는 우리나라 인공 지능 개발에 대한 근본적인 준수 및 행동 지침을 제공합니다. 인공지능을 적극적으로 개발하고 인공지능 안전 거버넌스 수준을 제고하기 위해서는 20기 중앙위원회 3차 전원회의 '결정'에서 제안한 '인공지능 안전 감독 체계 구축'의 중요한 전개를 전면적으로 이행해야 한다. 중국 공산당은 최첨단 인공 지능 기술과 그것이 가져오는 위험과 과제에 초점을 맞추고 미래 지향적 사고를 강화하며 인공 지능 거버넌스를 위한 혁신적인 솔루션을 끊임없이 탐색하면서 인공 지능 동향의 발전을 정확하게 파악합니다.
현재 생성적 인공지능은 강력한 상호작용, 이해, 생성 능력을 바탕으로 기억, 계획, 도구 사용을 통합한 대규모 자연어 모델을 핵심 구성 요소로 개발하여 인간-컴퓨터 상호 작용의 새로운 패러다임을 창조했습니다. 인식하고 행동하는 능력. 인공 에이전트의 능력은 광대한 전망을 열어줍니다. 인공지능은 일반 인공지능의 가장 중요한 첨단 연구 방향이자 기술 기업들이 경쟁적으로 펼치는 새로운 트랙이 됐다. 대규모 자연어 모델을 '스마트 엔진'으로 사용하며 자율성, 적응성, 상호작용성의 특징을 갖고 있으며, 생산 효율성을 크게 향상시키고, 사용자 경험을 향상시키며, 인간의 능력을 뛰어넘는 의사결정 지원을 제공하고, 소프트웨어 개발 및 개발에 적용할 수 있습니다. 과학 연구 및 기타 실제 시나리오. 대규모 상용화는 아직 예비 탐색 및 육성 단계에 있지만, 인공지능으로 대표되는 가상과 현실의 통합, 심층적인 인간-컴퓨터 상호작용 등의 추세는 경제 및 사회 발전에 중요한 지침이 됩니다. 그러나 기술적인 한계로 인해 인공 에이전트는 복잡하고 역동적이며 예측할 수 없는 위험과 우려를 야기할 수도 있습니다.
설계논리적 관점에서 볼 때, 인공지능은 제어단을 통해 인지능력을 획득하고, 센싱단을 통해 주변 환경의 정보를 획득 및 활용하며, 최종적으로 행동에 대해 물리적 실체를 기반으로 인지하고 행동하는 지능시스템이 되어야 한다. 끝.
제어 측면에서 보면, 대규모 자연어 모델은 인공 신체의 '두뇌' 역할을 하며, 대량의 데이터를 학습해 지식을 형성하고, 인공 신체 제어 시스템의 메모리 모듈을 구성한다. 생성된 콘텐츠의 정확성. 예를 들어, 모델에 의해 생성된 콘텐츠는 정보 소스를 따르지 않거나 실제 세계의 실제 상황과 일치하지 않을 수 있으며, 이로 인해 훈련 데이터의 인간 편견으로 인해 소위 "기계 환각"이 발생할 수 있습니다. 인공지능의 공정한 의사결정 등
지각적 측면에서는 특정 상황에서 명시적, 암시적 정보를 완전히 이해하고 인간의 의도를 정확하게 인식하기 위해 인공지능 에이전트는 인식 범위를 순수 텍스트에서 텍스트, 시각 및 청각 모드를 포함한 다중 모드 분야로 확장합니다. 이를 통해 의사결정 능력은 향상되지만, 다양한 채널과 유형의 다중 소스 데이터를 통합하고 분석할 때 일련의 개인정보 유출 및 데이터 보안 위험이 발생할 수 있습니다. 예를 들어, 얼굴 정보, 지문, 성문 등 고도로 개인화되고 영구적인 생체 인식 데이터를 부적절하게 사용하고 공유하면 장기적 또는 영구적인 개인 정보 보호 위험이 발생할 수 있습니다. 복잡한 작업을 더 잘 처리하기 위해 여러 인공 에이전트를 배치하여 작업 성능을 완료하고 향상시키기 위해 계획하고 협력하고 경쟁하는 다중 에이전트 시스템이 주류가 되고 일반화될 것입니다. 여러 인공 에이전트의 시스템 상호 작용으로 인해 예상치 못한 시스템 보안 위험이 발생할 수 있습니다. 각 알고리즘이 단독으로 작동할 때 안전하고 합리적으로 보이더라도 조합과 상호 작용은 여전히 완전히 다르고 예측할 수 없는 위험을 야기할 수 있으며 이는 빠르게 발전하고 확대될 수 있습니다. 예를 들어, 주식시장에서 인공지능이 널리 활용되고, 여러 알고리즘이 자동으로 주가의 작은 변화를 파악하고, 동시에 차익거래를 위해 다수의 고주파 거래를 실행한다면, 플래시 크래시와 같은 시스템적 보안 사고가 촉발될 수 있다. 주식 시장에서.
모바일 측면에서는 실제 물리적 환경에 배치된 인공 에이전트가 보다 3차원적이고 의인화된 이미지로 제시될 가능성이 높습니다. 가상 공간과 달리 실제 공간은 대화형 학습 방법에 의존합니다. 인공 지능 에이전트는 피드백 기반 학습 최적화 기능을 통해 풍부하고 포괄적인 정보 인식이 필요하며 이는 개인 정보 보호에 대한 포괄적이고 침해적인 접근 방식을 구성할 수 있습니다. . 섹스와 투명화의 위험. 예를 들어, 사용자의 신체 언어를 해석하고 보다 복잡한 사용자 활동을 감지하고, 사용자 승인 없이 계속해서 비밀리에 데이터를 수집하는 것은 시스템에 보안 취약점이 있는 경우 엄청난 데이터 보안 위험으로 이어질 수 있습니다. 또한, 인공지능의 자율성이 지속적으로 높아짐에 따라 인간의 인지와 감정에 간섭하고 영향을 미칠 수 있을 뿐만 아니라, 독립적인 의사결정자이자 독립적인 행위자로서 인간의 능력과 지위에 도전할 수도 있습니다. 예를 들어, 일부 챗봇은 사용자와의 상호 작용 중에 사용자의 감정에 영향을 미치는 출력을 생성하며 때로는 부정적이고 조작적인 방식으로 생성됩니다.
인공지능 에이전트가 가져오는 위험과 과제에 직면하여 인공 에이전트의 행동이 인간의 의도와 가치에 부합하도록 하려면 인공지능 안전 감독 시스템이 효과적이도록 혁신적인 거버넌스 솔루션을 모색해야 합니다. 인공지능의 발전은 '0에서 1로'라는 중요한 시기를 맞이하고 있습니다. 거버넌스 계획은 끊임없이 변화하는 변화에 대응하여 변경되지 않고 유지될 수 있어야 하며, 기술의 개발 및 적용이 항상 제어 가능한 궤도에 있도록 보장해야 합니다. 인공지능 에이전트의 개발, 훈련, 배치, 운영 및 서비스는 고도로 전문화된 업무 분업을 거쳐 복잡한 계층 구조를 형성해 왔습니다. 각 계층에는 서로 다른 참여자, 이해관계자 및 잠재적 위험 요소가 있어 인공 지능 개체에 "모듈형" 산업 체인의 특성을 부여합니다. 따라서 전체 산업 체인과 각 엔드 레이어를 포괄하는 모듈형 거버넌스 프레임워크를 구축할 수 있으며, 데이터 모듈, 알고리즘 모듈, 모델 아키텍처 등 핵심 노드부터 해당 거버넌스 모듈을 설계합니다. 예를 들어 배포 프로세스에서 애플리케이션 시나리오의 특성과 배포 모드에 따라 다양한 거버넌스 모듈을 유연하게 선택하고 공동으로 결합하여 일치하는 거버넌스 솔루션을 구축할 수 있습니다. 모듈형 거버넌스 프레임워크는 거버넌스 목표를 상대적으로 독립적이지만 결합된 거버넌스 모듈로 분해함으로써 거버넌스의 유연성과 타당성을 향상시킬 뿐만 아니라 유연성과 타당성을 향상시키는 거버넌스 시스템의 형성을 점진적으로 촉진합니다. 또한 기술의 빠른 반복에도 적응할 수 있습니다. 데이터, 알고리즘, 모델 및 시나리오와 같은 차원을 기반으로 거버넌스 모듈을 구축할 때 기술을 사용하여 감독 권한을 부여하고 인공 지능 엔터티의 모듈식 거버넌스 프레임워크와 호환되는 지능형 거버넌스 도구를 생성하여 위험 역학과 긴장을 연결해야 합니다. 규제 통계 간의 특정 고위험 시나리오에 대한 정확한 거버넌스가 가능합니다.
인공지능 주체를 위한 대화형 거버넌스 생태계 구축이 필요합니다. 인공 지능 에이전트는 긴밀한 대화형, 고도로 상호 연결되어 있으며 동적으로 적응할 수 있습니다. 따라서 거버넌스 방식은 전통적인 개인 중심의 거버넌스를 넘어 광범위한 상호연결, 다자간 참여, 다단계 협업을 통한 거버넌스 생태계 형성을 촉진해야 한다. 그 중에서 기술 개발자, 운영 및 유지 관리 인력과 같은 기술 커뮤니티는 인공 지능 개체의 거버넌스에서 중요한 "내부 고발자" 역할을 수행할 것입니다. 인공지능 기업 내에서 효과적인 제한 메커니즘을 구축하려면 기술 커뮤니티의 감독 이점을 더 잘 활용해야 합니다. 우리는 또한 대다수 사용자의 디지털 활용 능력을 적극적으로 향상시키고, 합법적이고 안전하며 책임감 있는 방식으로 인공 지능을 사용하는 것에 대한 인식을 높이고 인공 지능과 긍정적인 상호 작용을 달성하며 상향적이고 좋은 운영 상태의 형성을 촉진해야 합니다.
