22일 오후 서울 성북구 한국과학기술연구원(KIST)에서 열린 'AI 서울 정상회의' 장관 세션에는 21개국 장관급 인사들과 국내외 주요 기업 19곳 고위 관계자 등이 참석했다.

이종호 과학기술정보통신부 장관과 미셸 도넬란 영국 과학혁신기술부 장관은 공동의장으로 나서 '인공지능(AI) 안전성 확립 역량 강화'와 '지속 가능한 AI 발전 촉진'이라는 두 가지 주제를 심층적으로 논의했다.

이번 회의는 지난해 11월 영국 블레츨리 파크에서 열린 "AI 안정성 정상회의'에 이은 후속 회의다.

이 장관은 개회사에서 지난 6개월 동안 생성형 AI가 예상보다 훨씬 빠른 속도로 발전하며 우리 일상과 경제, 사회 전반에 새로운 혁신을 가져오고 있다고 강조했다.

또한, "AI 위험과 부작용에 대한 우려가 증가하고 있으며, 국제 사회는 관련 규범 정립을 위한 노력을 본격화하고 있다"고 지적했다. 그는 전날 정상급 합의 문서인 '서울 선언'에서 제시된 비전을 바탕으로 오늘 세션에서는 AI 안전 확보와 지속 가능한 발전을 논의하고자 한다고 밝혔다.

미셸 도넬란 장관은 "AI 발달 속도 자체가 매우 빠르기 때문에 우리도 더 신속하게 행동해야 AI 안전성을 담보할 수 있다"고 강조했다.

도넬란 장관은 "국제 사회가 AI 리스크에 대한 회복 탄력성을 갖춰야 한다"며 "지식을 모으는 속도가 사회가 그것을 알아가는 속도보다 빠르기 때문에 과학계 리더들이 앞으로 구체적인 활동 계획을 합의해 내놓기를 바란다"며 노력을 지속할 것을 촉구했다.

첫 번째 장관 세션에서는 각국의 'AI 안전 연구소' 설립 현황을 공유하고 글로벌 공조 방안을 논의했다. 특히 1차 회의 후속 조치인 'AI 안전 국제 과학 보고서'를 토대로 현재와 가까운 미래의 AI 위험 요인을 진단하고 안전성 강화 방안을 모색했다.

두 번째 세션에서는 에너지·환경·일자리 등 AI가 초래하는 부작용에 대해 회복 탄력성을 확보하기 위한 방안을 논의했다. AI 개발과 운영 확대에 따른 막대한 전력 소모에 대응할 필요성이 높아지면서, 저전력 반도체 등 우리나라의 AI 반도체 비전을 중심으로 새로운 글로벌 의제를 논의했다.

이날 장관 세션에는 정부 인사로 공동의장들을 비롯해 세스 센터 미국 국무부 핵심·신흥기술 부특사, 슈테판 슈노르 독일 연방 디지털교통부 장관, 니시다 시오지 일본 국회 총무성 차관 등 20개국 고위 인사들이 참여했다. 유엔에서는 아만딥 싱 길 사무총장 기술특사가 참석했다.

해외업계에서는 에이단 고메즈 코히어 대표이사와 앤드루 잭슨 코어42 최고책임자, 크리스티나 몽고메리 IBM 최고신뢰임원, 잭 클라크 앤트로픽 공동 설립자, 링게 텐센트 유럽 대표, 나타샤 크램튼 마이크로소프트 최고 AI 책임자, 롭 셔먼 메타 부사장 겸 최고 개인정보보호책임자, 샌디 쿤바타나간 오픈AI APAC 정책실장, 톰 루 구글 딥마인드 부사장 등이 자리에 함께 했다.

또 국내에서는 전경훈 삼성전자 사장, 유영상 SK텔레콤 대표, 배경훈 LG AI 연구원장 등이 참석했다.

학계·시민사회 인사로는 카네기 국제평화기금의 아서 넬슨 부이사관과 루먼 차우더리 휴메인 인텔리전스 대표, 오혜연 카이스트 교수, 이경무 서울대 교수 등이 참가했다.

앞서 윤석열 대통령은 21일 리시 수낵 영국 총리와 함께 'AI 서울 정상회의'를 주재하고 안전·혁신·포용의 3대 원칙을 담은 합의를 도출했다.

대통령실은 이날 윤 대통령은 청와대 영빈관에서 화상으로 주재한 AI 서울 정상회의 개회사에서 "대한민국은 국제사회의 책임 있는 일원으로서 인공지능(AI) 안전, 혁신, 포용을 조화롭게 추진해 나가겠다"고 밝혔다고 전했다.

윤 대통령은 "생성형 AI 등장 이후 AI 기술이 전례 없는 속도로 발전하면서 인류 사회에 막대한 파급 효과를 가져올 것으로 전망된다"고 말했다.

또한 "이번 회의는 한국 정부가 수립한 디지털 권리장전, 유엔 총회의 AI 결의안, 주요 7개국(G7) 차원의 히로시마 AI 프로세스 등 그간의 노력을 결집해 글로벌 차원의 AI 규범과 거버넌스를 진전시키는 계기가 될 것"이라고 강조했다.

회의에 참석한 정상과 글로벌 기업 대표들은 AI가 갖는 위험 요소는 최소화하면서, 자유로운 연구개발을 통해 잠재력은 최대한 구현하고, 이를 통해 창출된 혜택은 인류 모두가 누릴 수 있는 방안을 논의했다고 대통령실은 전했다.

회의에 참여한 정상들은 '안전하고 혁신적이며 포용적인 AI를 위한 서울선언'과 그 부속서인 'AI 안전 과학에 대한 국제 협력을 위한 서울 의향서'를 채택했다.

회의에 참석한 정상들은 '서울선언'에서 "AI의 안전·혁신·포용성은 상호 연계된 목표로서 AI 거버넌스에 대한 국제 논의에 이들 우선순위를 포함하는 것이 중요하다고 인식한다"는데 동의했다.

글로벌 AI 선도 기업들은 자발적으로 AI 위험을 에방하고 책임 있는 AI를 개발하겠다는 안전 서약을 했다.

차기 회의는 프랑스가 'AI 행동 정상회의(AI Action Summit)라는 명칭으로 개최할 예정이다.