검색
-
-
미-영, 'AI 안전성' 서명…양국간 세계 최초 협정 체결
- 미국과 영국이 인공지능(AI) 기술의 안전성을 점검하는 데 서로 협력하기로 합의하고 양국 간 협정에 서명했다. 1일(현지시간) 파이낸셜타임스(FT)와 타임 등 외신에 따르면 지나 러몬도 미국 상무부 장관과 미셸 도넬란 영국 과학혁신기술부 장관은 이날 미국 워싱턴DC에서 만나 AI 관련 협정에 서명했다. 해당 협정은 양국 정부가 AI 안전에 대한 기술적 지식과 정보, 인재를 어떻게 공유할지 등에 대해 명시하고 있다. 이 협정은 세계 최초의 AI 안전에 대한 양자 간 합의로, AI 신기술이 사이버 공격이나 생화학적 무기 설계 등에 사용되는 등의 실존적 위험이 될 가능성에 대한 규제강화 차원에서 이루어졌다. 이는 세계 최초로 AI 안전을 주제로 한 양국 간 합의로, AI 기술이 사이버 공격이나 생화학적 무기 설계 등에 악용될 가능성에 대한 대응책 마련을 위해 체결됐다. 도넬란 장관은 FT와의 인터뷰에서 차세대 AI 모델이 게임 체인저가 될 가능성이 있으며, 이에 대응하기 위해 신속한 행동이 필요하다고 강조했다. 그는 "아직 새 모델이 어떠한 역할을 할 수 있을지 알지 못한다"고 말했다. 지난해 11월 설립된 영국의 AI안전연구소(AISI)와 미국이 곧 설립할 관련 연구소는 이 협정을 통해 양국 연구원들을 상호 파견하는 등의 방법으로 전문 지식을 공유할 예정이다. 이 협정에 따라, 오픈AI와 구글 같은 민간 기업이 개발한 AI 모델을 독립적으로 평가하는 작업에도 양국이 협력하게 된다. 이 파트너십은 영국 정부 커뮤니케이션 본부(GCHQ)와 미국 국가안보국(NSA) 간의 정보 및 보안 문제에 대한 긴밀한 협력을 모델로 삼고 있다. 도넬란 장관은 미국이 이 협정을 체결함으로써 영국이 AI 안전 분야에서 어떻게 리더십을 발휘하고 있는지를 보여주는 것이라고 평가했다. 그는 AI 분야의 주요 기업들이 미국에 위치해 있기 때문에 미국 정부의 전문성은 AI의 위험성을 이해하고 기업들로 하여금 약속을 이행하도록 하는 데 중요하다고 강조했다. 러몬도 장관은 이 협정을 통해 양국이 국가 안보와 사회 전반에 걸친 모든 AI 위험 영역에서 협력을 가속화할 것이라고 밝혔다. 러몬도 장관은 "이는 양국 기관이 AI 시스템을 더 잘 이해하고, 더 정확하게 평가하며, 더 엄격한 지침을 마련하는 데 기여할 것"이라고 덧붙였다.
-
- IT/바이오
-
미-영, 'AI 안전성' 서명…양국간 세계 최초 협정 체결
-
-
미국, AI 안전 측정 위한 컨소시엄 설립…200개 이상 기관 참여
- 미국에서 안전하고 신뢰할 수 있는 인공지능(AI) 개발 및 배포를 위해 정부와 민간기업이 참여하는 '인공지능 안전 연구소 컨소시엄(AISIC)'이 발족됐다. 11일(현지시간) 미국 상무부에 따르면 AISIC는 AI 역량평가, 위험 관리, 합성 콘텐츠 워터마킹 지침 등을 개발하게 될 것으로 알려졌다. 이날 bnn에 따르면 AISIC의 핵심은 AI 개발자, 사용자, 연구자, 시민사회단체, 정부기관을 위한 협업 플랫폼이다. 이 컨소시엄의 주요 목표는 AI 안전을 위한 측정 과학을 육성하는 것이다. 특히 고급 AI 시스템과 관련된 기초 모델 등에 중점을 둘 것으로 예상된다. AISIC 컨소시엄의 설립과 지속적인 노력은 안전 표준을 설정해 AI 분야의 미국 혁신 생태계를 보호하려는 조 바이든 대통령의 광범위한 지시 중 하나다. 가장 중요한 목표는 미국이 끊임없이 진화하는 AI 분야에서 경쟁력을 유지하는 것이다. AI 안전 위한 통합 플랫폼 지난 8일 로이터에 따르면 AISIC에는 정부, 학계, AI 개발자 등 200개 이상의 업체가 포함된다. 여기에는 오픈AI, 구글 모 회사 알파벳, 마이크로소프트(MS),애플, 아마존, 엔비디아(NVDA) 등 AI관련 기업과 퀄컴, 인텔 등 하드웨어 기업을 포함해 JP모건, 뱅크 오브 아메리카 등 금융 기업도 참여한다. 상무부는 "이 컨소시엄은 현재까지 구성된 테스트 및 평가팀 가운데 가장 대규모인데, AI 안전에 대한 새로운 측정(measurement) 과학의 기반이 될 것으로 초점을 맞추고 있다"라고 말했다. 이 컨소시엄은 다양한 분야의 200명 이상의 이해관계자를 하나로 묶어, 안전하고 신뢰할 수 있는 AI 배포를 촉진하는 데 전념하고 있다. 지나 러몬도 상무부 장관은 "바이든 대통령은 AI 안전 표준을 설정하고 혁신 생태계를 보호하는 데 모든 수단을 동원하라고 지시했다. AISIC는 이 목표를 달성하기 위해 설립된 것이다"라고 말했다.
-
- IT/바이오
-
미국, AI 안전 측정 위한 컨소시엄 설립…200개 이상 기관 참여
검색 결과가 없습니다.