미국과 영국이 인공지능(AI) 기술의 안전성을 점검하는 데 서로 협력하기로 합의하고 양국 간 협정에 서명했다.

1일(현지시간) 파이낸셜타임스(FT)와 타임 등 외신에 따르면 지나 러몬도 미국 상무부 장관과 미셸 도넬란 영국 과학혁신기술부 장관은 이날 미국 워싱턴DC에서 만나 AI 관련 협정에 서명했다.

해당 협정은 양국 정부가 AI 안전에 대한 기술적 지식과 정보, 인재를 어떻게 공유할지 등에 대해 명시하고 있다.

이 협정은 세계 최초의 AI 안전에 대한 양자 간 합의로, AI 신기술이 사이버 공격이나 생화학적 무기 설계 등에 사용되는 등의 실존적 위험이 될 가능성에 대한 규제강화 차원에서 이루어졌다.

이는 세계 최초로 AI 안전을 주제로 한 양국 간 합의로, AI 기술이 사이버 공격이나 생화학적 무기 설계 등에 악용될 가능성에 대한 대응책 마련을 위해 체결됐다.

도넬란 장관은 FT와의 인터뷰에서 차세대 AI 모델이 게임 체인저가 될 가능성이 있으며, 이에 대응하기 위해 신속한 행동이 필요하다고 강조했다. 그는 "아직 새 모델이 어떠한 역할을 할 수 있을지 알지 못한다"고 말했다.

지난해 11월 설립된 영국의 AI안전연구소(AISI)와 미국이 곧 설립할 관련 연구소는 이 협정을 통해 양국 연구원들을 상호 파견하는 등의 방법으로 전문 지식을 공유할 예정이다.

이 협정에 따라, 오픈AI와 구글 같은 민간 기업이 개발한 AI 모델을 독립적으로 평가하는 작업에도 양국이 협력하게 된다.

이 파트너십은 영국 정부 커뮤니케이션 본부(GCHQ)와 미국 국가안보국(NSA) 간의 정보 및 보안 문제에 대한 긴밀한 협력을 모델로 삼고 있다.

도넬란 장관은 미국이 이 협정을 체결함으로써 영국이 AI 안전 분야에서 어떻게 리더십을 발휘하고 있는지를 보여주는 것이라고 평가했다. 그는 AI 분야의 주요 기업들이 미국에 위치해 있기 때문에 미국 정부의 전문성은 AI의 위험성을 이해하고 기업들로 하여금 약속을 이행하도록 하는 데 중요하다고 강조했다.

러몬도 장관은 이 협정을 통해 양국이 국가 안보와 사회 전반에 걸친 모든 AI 위험 영역에서 협력을 가속화할 것이라고 밝혔다.

러몬도 장관은 "이는 양국 기관이 AI 시스템을 더 잘 이해하고, 더 정확하게 평가하며, 더 엄격한 지침을 마련하는 데 기여할 것"이라고 덧붙였다.