검색
-
-
'AI 서울 정상회의' 장관 세션, 미국·일본 등 21개국 참석
- 22일 오후 서울 성북구 한국과학기술연구원(KIST)에서 열린 'AI 서울 정상회의' 장관 세션에는 21개국 장관급 인사들과 국내외 주요 기업 19곳 고위 관계자 등이 참석했다. 이종호 과학기술정보통신부 장관과 미셸 도넬란 영국 과학혁신기술부 장관은 공동의장으로 나서 '인공지능(AI) 안전성 확립 역량 강화'와 '지속 가능한 AI 발전 촉진'이라는 두 가지 주제를 심층적으로 논의했다. 이번 회의는 지난해 11월 영국 블레츨리 파크에서 열린 "AI 안정성 정상회의'에 이은 후속 회의다. 이 장관은 개회사에서 지난 6개월 동안 생성형 AI가 예상보다 훨씬 빠른 속도로 발전하며 우리 일상과 경제, 사회 전반에 새로운 혁신을 가져오고 있다고 강조했다. 또한, "AI 위험과 부작용에 대한 우려가 증가하고 있으며, 국제 사회는 관련 규범 정립을 위한 노력을 본격화하고 있다"고 지적했다. 그는 전날 정상급 합의 문서인 '서울 선언'에서 제시된 비전을 바탕으로 오늘 세션에서는 AI 안전 확보와 지속 가능한 발전을 논의하고자 한다고 밝혔다. 미셸 도넬란 장관은 "AI 발달 속도 자체가 매우 빠르기 때문에 우리도 더 신속하게 행동해야 AI 안전성을 담보할 수 있다"고 강조했다. 도넬란 장관은 "국제 사회가 AI 리스크에 대한 회복 탄력성을 갖춰야 한다"며 "지식을 모으는 속도가 사회가 그것을 알아가는 속도보다 빠르기 때문에 과학계 리더들이 앞으로 구체적인 활동 계획을 합의해 내놓기를 바란다"며 노력을 지속할 것을 촉구했다. 첫 번째 장관 세션에서는 각국의 'AI 안전 연구소' 설립 현황을 공유하고 글로벌 공조 방안을 논의했다. 특히 1차 회의 후속 조치인 'AI 안전 국제 과학 보고서'를 토대로 현재와 가까운 미래의 AI 위험 요인을 진단하고 안전성 강화 방안을 모색했다. 두 번째 세션에서는 에너지·환경·일자리 등 AI가 초래하는 부작용에 대해 회복 탄력성을 확보하기 위한 방안을 논의했다. AI 개발과 운영 확대에 따른 막대한 전력 소모에 대응할 필요성이 높아지면서, 저전력 반도체 등 우리나라의 AI 반도체 비전을 중심으로 새로운 글로벌 의제를 논의했다. 이날 장관 세션에는 정부 인사로 공동의장들을 비롯해 세스 센터 미국 국무부 핵심·신흥기술 부특사, 슈테판 슈노르 독일 연방 디지털교통부 장관, 니시다 시오지 일본 국회 총무성 차관 등 20개국 고위 인사들이 참여했다. 유엔에서는 아만딥 싱 길 사무총장 기술특사가 참석했다. 해외업계에서는 에이단 고메즈 코히어 대표이사와 앤드루 잭슨 코어42 최고책임자, 크리스티나 몽고메리 IBM 최고신뢰임원, 잭 클라크 앤트로픽 공동 설립자, 링게 텐센트 유럽 대표, 나타샤 크램튼 마이크로소프트 최고 AI 책임자, 롭 셔먼 메타 부사장 겸 최고 개인정보보호책임자, 샌디 쿤바타나간 오픈AI APAC 정책실장, 톰 루 구글 딥마인드 부사장 등이 자리에 함께 했다. 또 국내에서는 전경훈 삼성전자 사장, 유영상 SK텔레콤 대표, 배경훈 LG AI 연구원장 등이 참석했다. 학계·시민사회 인사로는 카네기 국제평화기금의 아서 넬슨 부이사관과 루먼 차우더리 휴메인 인텔리전스 대표, 오혜연 카이스트 교수, 이경무 서울대 교수 등이 참가했다. 앞서 윤석열 대통령은 21일 리시 수낵 영국 총리와 함께 'AI 서울 정상회의'를 주재하고 안전·혁신·포용의 3대 원칙을 담은 합의를 도출했다. 대통령실은 이날 윤 대통령은 청와대 영빈관에서 화상으로 주재한 AI 서울 정상회의 개회사에서 "대한민국은 국제사회의 책임 있는 일원으로서 인공지능(AI) 안전, 혁신, 포용을 조화롭게 추진해 나가겠다"고 밝혔다고 전했다. 윤 대통령은 "생성형 AI 등장 이후 AI 기술이 전례 없는 속도로 발전하면서 인류 사회에 막대한 파급 효과를 가져올 것으로 전망된다"고 말했다. 또한 "이번 회의는 한국 정부가 수립한 디지털 권리장전, 유엔 총회의 AI 결의안, 주요 7개국(G7) 차원의 히로시마 AI 프로세스 등 그간의 노력을 결집해 글로벌 차원의 AI 규범과 거버넌스를 진전시키는 계기가 될 것"이라고 강조했다. 회의에 참석한 정상과 글로벌 기업 대표들은 AI가 갖는 위험 요소는 최소화하면서, 자유로운 연구개발을 통해 잠재력은 최대한 구현하고, 이를 통해 창출된 혜택은 인류 모두가 누릴 수 있는 방안을 논의했다고 대통령실은 전했다. 회의에 참여한 정상들은 '안전하고 혁신적이며 포용적인 AI를 위한 서울선언'과 그 부속서인 'AI 안전 과학에 대한 국제 협력을 위한 서울 의향서'를 채택했다. 회의에 참석한 정상들은 '서울선언'에서 "AI의 안전·혁신·포용성은 상호 연계된 목표로서 AI 거버넌스에 대한 국제 논의에 이들 우선순위를 포함하는 것이 중요하다고 인식한다"는데 동의했다. 글로벌 AI 선도 기업들은 자발적으로 AI 위험을 에방하고 책임 있는 AI를 개발하겠다는 안전 서약을 했다. 차기 회의는 프랑스가 'AI 행동 정상회의(AI Action Summit)라는 명칭으로 개최할 예정이다.
-
- IT/바이오
-
'AI 서울 정상회의' 장관 세션, 미국·일본 등 21개국 참석
-
-
미-영, 'AI 안전성' 서명…양국간 세계 최초 협정 체결
- 미국과 영국이 인공지능(AI) 기술의 안전성을 점검하는 데 서로 협력하기로 합의하고 양국 간 협정에 서명했다. 1일(현지시간) 파이낸셜타임스(FT)와 타임 등 외신에 따르면 지나 러몬도 미국 상무부 장관과 미셸 도넬란 영국 과학혁신기술부 장관은 이날 미국 워싱턴DC에서 만나 AI 관련 협정에 서명했다. 해당 협정은 양국 정부가 AI 안전에 대한 기술적 지식과 정보, 인재를 어떻게 공유할지 등에 대해 명시하고 있다. 이 협정은 세계 최초의 AI 안전에 대한 양자 간 합의로, AI 신기술이 사이버 공격이나 생화학적 무기 설계 등에 사용되는 등의 실존적 위험이 될 가능성에 대한 규제강화 차원에서 이루어졌다. 이는 세계 최초로 AI 안전을 주제로 한 양국 간 합의로, AI 기술이 사이버 공격이나 생화학적 무기 설계 등에 악용될 가능성에 대한 대응책 마련을 위해 체결됐다. 도넬란 장관은 FT와의 인터뷰에서 차세대 AI 모델이 게임 체인저가 될 가능성이 있으며, 이에 대응하기 위해 신속한 행동이 필요하다고 강조했다. 그는 "아직 새 모델이 어떠한 역할을 할 수 있을지 알지 못한다"고 말했다. 지난해 11월 설립된 영국의 AI안전연구소(AISI)와 미국이 곧 설립할 관련 연구소는 이 협정을 통해 양국 연구원들을 상호 파견하는 등의 방법으로 전문 지식을 공유할 예정이다. 이 협정에 따라, 오픈AI와 구글 같은 민간 기업이 개발한 AI 모델을 독립적으로 평가하는 작업에도 양국이 협력하게 된다. 이 파트너십은 영국 정부 커뮤니케이션 본부(GCHQ)와 미국 국가안보국(NSA) 간의 정보 및 보안 문제에 대한 긴밀한 협력을 모델로 삼고 있다. 도넬란 장관은 미국이 이 협정을 체결함으로써 영국이 AI 안전 분야에서 어떻게 리더십을 발휘하고 있는지를 보여주는 것이라고 평가했다. 그는 AI 분야의 주요 기업들이 미국에 위치해 있기 때문에 미국 정부의 전문성은 AI의 위험성을 이해하고 기업들로 하여금 약속을 이행하도록 하는 데 중요하다고 강조했다. 러몬도 장관은 이 협정을 통해 양국이 국가 안보와 사회 전반에 걸친 모든 AI 위험 영역에서 협력을 가속화할 것이라고 밝혔다. 러몬도 장관은 "이는 양국 기관이 AI 시스템을 더 잘 이해하고, 더 정확하게 평가하며, 더 엄격한 지침을 마련하는 데 기여할 것"이라고 덧붙였다.
-
- IT/바이오
-
미-영, 'AI 안전성' 서명…양국간 세계 최초 협정 체결
-
-
英 다우든 부총리, "규제 없는 AI, 세계 불안정 초래" 경고
- 하루가 다르게 발전하는 인공 지능(AI) 시장을 두고 규제 방안을 먼저 마련해야 한다는 목소리가 높아지고 있다. BBC는 최근 올리버 다우든 영국 부총리는 정부가 행동하지 않으면 인공 지능(AI)이 세계 질서를 불안정하게 만들 수 있다고 경고했다고 전했다. 다우든 부총리는 유엔에서 AI 개발 속도가 각국 정부의 안전 확보 능력을 넘어서는 위험에 대해 논의할 계획이다. 영국은 오는 11월 AI 규제를 논의하기 위해 '글로벌 서밋' 개최를 앞두고 있다. 규제가 없는 AI는 결국 일자리를 빼앗고, 잘못된 정보를 부추기거나 차별을 고착화할 수 있다는 주장이다. AI 개발 속도보다 규제 뒤처져 다우든 부총리는 뉴욕에서 열리는 유엔 총회에서 "개별 기업과 국가가 경계를 최대한 멀리, 그리고 빠르게 넓히기 위해 노력하는 글로벌 경쟁이 시작됐다"고 연설했다. 그는 "현재 AI에 대한 글로벌 규제는 현재의 발전 속도에 비해 뒤처지고 있다"고 우려했다. 과거에는 각국 정부가 기술 발전에 대응하여 규제를 만들었지만, 이제는 AI의 발전과 함께 규제를 만들어야 한다는 것. 다우든은 정부와 시민이 위험을 적절히 완화할 수 있다는 확신을 가져야 하는 것처럼 AI 관련 기업도 "스스로 숙제를 해결해야 한다"고 강조했다. 국가가 조치를 취해야만 국민들이 가장 중요한 국가 안보에 대한 우려를 완화하고 안심할 수 있다. 급증하는 AI 시장 전망 많은 전문가들은 일부 AI 시스템의 급격한 기능 향상에 놀라움을 금치 못했다. 서리 대학의 앤드류 로고이스키 교수는 BBC 뉴스와의 인터뷰에서 "우리는 지평이 좁아지는 것을 목격했다"라고 말했다. 그러나 AI 서비스를 제공하는 페컬티AI(Faculty.ai)의 마크 워너는 방사선 스캔에서 암의 징후를 찾는 것과 같은 특정 작업을 수행하도록 설계된 좁은 의미의 AI와 일반 인공 지능을 구분하는 것이 중요하다고 지적했다. 그는 "이러한 알고리즘은 현재로서는 언제 개발될지 예측할 수 없는 새로운 속성을 가진 강력한 알고리즘"이라고 말했다. 워너는 "개인적으로는 현재 세대의 기술에 대해 크게 걱정하지는 않지만, 정부가 점점 더 강력한 버전에 대비하고 무엇을 할 수 있을지 미리 살펴보는 것이 합리적이라고 생각한다"고 말했다. 그는 "저는 15년 동안 AI 안전분야를 지켜봐 왔지만 2~3년 전만 해도 아무도 이러한 논의에 관심을 두지 않았다. 그래서 저는 AI 안전에 대한 진지한 국제적 대화를 시작한 것만으로도 그 자체로 성공이라고 생각한다"고 말했다. 다른 주요 AI 기업들도 규제가 필요하다는 데 동의한다. 최근 워싱턴에서 열린 업계 사장단 비공개 회의에서 일론 머스크 테슬라 CEO는 AI 규제에 대한 압도적인 공감대가 형성됐다고 말했다. 소수 민족 등 소외지역 논의 포함해야 그러나 채텀하우스 국제문제 싱크탱크의 야스민 아피나는 AI 규제가 빠른 시일내에 국제적 합의에 도달하는 것은 어려울 것이라는 입장이다. 아피나는 "사람들이 동의하는 데 오랜 시간이 걸렸던 핵무기와 비교해 AI는 너무 복잡하고 기술적으로도 다르기 때문에 동의할 만한 것을 협상하는 게 쉽지 않을 것 같다"고 말했다. 아울러 소규모 국가, 소외된 지역 사회, 소수 민족에 속한 사람들도 의미 있는 의견을 제시할 필요가 있다고 지적했다. 아피나는 "그들이 테이블에 참석하지 않고, 실제로 목소리를 내지 않는 한 그들은 소외될 수 밖에 없다"고 우려했다. 한편, 리시 수낵 총리는 영국이 AI 규제의 주도권을 잡기를 원한다. 그러나 지난달 하원 과학혁신기술위원회는 법의 신속한 도입 없이는 유럽연합의 AI 법이 글로벌 표준이 되어 영국의 노력을 대체할 수 없다고 경고했다. 이제는 해체된 AI 위원회의 전 멤버로 정부에 자문을 제공했던 워너는 "영국이 투자를 준비하면 AI의 안전한 발전을 선도할 수 있다"고 주장했다. 그는 "이것은 매우 실용적인 중간 경로로 느껴진다. 현재로서는 AI 규제 법안을 만드는 데 많은 자금이 필요하지 않다"고 말했다.
-
- IT/바이오
-
英 다우든 부총리, "규제 없는 AI, 세계 불안정 초래" 경고
-
-
영국 정부, 11억 달러 규모 새 슈퍼컴퓨터·AI 연구 시설 구축
- 영국 정부가 인공지능(AI) 연구와 혁신 능력을 강화하기 위해 9억 파운드(약 11억 달러, 약 1조 4600억 원)에 달하는 슈퍼 컴퓨터를 구축 중이다. 영국 매체 네트워크 월드(Network World)에 따르면, 영국 정부는 인공지능(AI) 연구와 혁신 능력을 강화하기 위해 9억 파운드를 들여 슈퍼컴퓨터를 제작하고 있다고 발표했다. 이 슈퍼컴퓨터는 19세기 영국의 건축 및 기계 공학자 이점바드 킹덤 브루넬(Isambard Kingdom Brunel)의 이름을 따서 이점바드-3(Isambard-3)이라는 이름이 붙었다. 이점바드-3은 올해 말 브리스톨의 국립 복합 재료 센터(National Composites Centre)에 설치될 예정이다. 브리스톨 대학은 인터랙티브 인공 지능 박사과정을 위한 UKRI 센터의 본거지로 바스(Bath), 카디프(Cardiff), 엑서터(Exeter)를 포함하는 연구 집약적 대학의 연합인 GW4 대학 그룹에 속한다. 브리스톨 대학은 AI 연구 리소스(AI Research Resource 또는 Isambard-AI)를 호스팅하는 국가 시설이며, AI 연구를 지원하고 이 기술의 안전한 활용을 촉진하고 있다. 슈퍼컴퓨터와 이점바드-AI(Isambard-AI)는 지난 3월 정부에서 발표한 AI 투자를 통해 자금을 지원 받는다. 이 슈퍼컴퓨터는 수천 개의 최신 GPU로 구성되어 있다. 과학혁신기술부(DSIT, Department for Science, Innovation and Technology)가 발표한 성명서에 따르면 "유럽에서 가장 강력한 컴퓨터 중 하나"로 평가된다. 미셸 도넬란(Michelle Donelan) 과학혁신기술부 장관은 "우리는 영국 혁신의 미래를 지원하며, 브리스톨에 AI 연구 리소스를 설립함으로써 AI 개발의 선두에 서겠다"라고 밝혔다. 또 "이점바드-AI 클러스터는 유럽에서 가장 강력한 초고속 컴퓨터 중 하나가 될 것이며, 이는 산업 전문가와 연구자들이 AI의 게임 체인징(PoT) 가능성을 최대로 활용하는 데 큰 도움을 줄 것"이라고 기대했다. 도넬란 장관은 "이를 통해 우리의 프론티어 AI 테스크포스(Frontier AI Taskforce)가 수행하는 미션 크리티컬 작업도 지원할 것"이라고 덧붙였다. 그러나 브리스톨 대학 대변인은 슈퍼컴퓨터의 코어 수와 프로세서 유형과 같은 시스템 세부 정보에 관한 질문에는 아직 해당 초고속 컴퓨터의 세부 사양을 공개할 수 없다며 말을 아꼈다. 현재 이 대학은 이미 연구용으로 여러 슈퍼컴퓨터 클러스터를 보유하고 있고, 이들은 모두 리눅스(Linux)를 기반으로 운영된다. 블루크리스탈 페이즈 4(BlueCrystal Phase 4) 시스템은 주로 엔비디아(Nvidia) P100 GPU를 활용한 대규모 병렬 작업에 적합하게 설계됐다. 여기에는 2개의 그래픽 카드가 탑재된 32개의 GPU 노드가 포함되어 있다. 또한, 인텔(Intel) E5-2680 v4 (Broadwell) CPU를 사용하는 525개의 레노버(Lenovo) 컴퓨트 노드를 보유하고 있다. 이점바드-AI의 발표는 영국이 11월 1일과 2일 이틀동안 블레치리 파크(Bletchley Park)에서 개최 예정인 '글로벌 AI 안전 정상회의'를 앞두고 한 달 반 전에 이루어졌다. 리시 수낵(Rishi Sunak) 영국 총리는 지난 6월 워싱턴 방문 중 미국 대통령 조 바이든과 가진 회담에서 AI 안전 정상회의에 대해 처음 발표했다. 이 정상회의는 AI 기술의 위험과 발전에 대해 정부 관계자와 AI 기업, 연구자들이 모여 국제적인 협력 조치를 통해 해당 위험을 줄이는 방법을 논의할 예정이다. 글로벌 AI 정상회의 참가자들은 국제 AI 안전 협력 프로세스 제안, AI 안전 연구에서 협력할 수 있는 분야의 식별, 그리고 AI 개발을 통한 기술의 선한 활용 방안 등 다양한 주제에 중점을 둘 것으로 보다.
-
- IT/바이오
-
영국 정부, 11억 달러 규모 새 슈퍼컴퓨터·AI 연구 시설 구축