하루가 다르게 발전하는 인공 지능(AI) 시장을 두고 규제 방안을 먼저 마련해야 한다는 목소리가 높아지고 있다. 

BBC는 최근 올리버 다우든 영국 부총리는 정부가 행동하지 않으면 인공 지능(AI)이 세계 질서를 불안정하게 만들 수 있다고 경고했다고 전했다.

다우든 부총리는 유엔에서 AI 개발 속도가 각국 정부의 안전 확보 능력을 넘어서는 위험에 대해 논의할 계획이다.

영국은 오는 11월 AI 규제를 논의하기 위해 '글로벌 서밋' 개최를 앞두고 있다.

규제가 없는 AI는 결국 일자리를 빼앗고, 잘못된 정보를 부추기거나 차별을 고착화할 수 있다는 주장이다.

AI 개발 속도보다 규제 뒤처져

다우든 부총리는 뉴욕에서 열리는 유엔 총회에서 "개별 기업과 국가가 경계를 최대한 멀리, 그리고 빠르게 넓히기 위해 노력하는 글로벌 경쟁이 시작됐다"고 연설했다.

그는 "현재 AI에 대한 글로벌 규제는 현재의 발전 속도에 비해 뒤처지고 있다"고 우려했다.

과거에는 각국 정부가 기술 발전에 대응하여 규제를 만들었지만, 이제는 AI의 발전과 함께 규제를 만들어야 한다는 것.

다우든은 정부와 시민이 위험을 적절히 완화할 수 있다는 확신을 가져야 하는 것처럼 AI 관련 기업도 "스스로 숙제를 해결해야 한다"고 강조했다.

국가가 조치를 취해야만 국민들이 가장 중요한 국가 안보에 대한 우려를 완화하고 안심할 수 있다.

급증하는 AI 시장 전망

많은 전문가들은 일부 AI 시스템의 급격한 기능 향상에 놀라움을 금치 못했다. 서리 대학의 앤드류 로고이스키 교수는 BBC 뉴스와의 인터뷰에서 "우리는 지평이 좁아지는 것을 목격했다"라고 말했다.

그러나 AI 서비스를 제공하는 페컬티AI(Faculty.ai)의 마크 워너는 방사선 스캔에서 암의 징후를 찾는 것과 같은 특정 작업을 수행하도록 설계된 좁은 의미의 AI와 일반 인공 지능을 구분하는 것이 중요하다고 지적했다.

그는 "이러한 알고리즘은 현재로서는 언제 개발될지 예측할 수 없는 새로운 속성을 가진 강력한 알고리즘"이라고 말했다.

워너는 "개인적으로는 현재 세대의 기술에 대해 크게 걱정하지는 않지만, 정부가 점점 더 강력한 버전에 대비하고 무엇을 할 수 있을지 미리 살펴보는 것이 합리적이라고 생각한다"고 말했다.

그는 "저는 15년 동안 AI 안전분야를 지켜봐 왔지만 2~3년 전만 해도 아무도 이러한 논의에 관심을 두지 않았다. 그래서 저는 AI 안전에 대한 진지한 국제적 대화를 시작한 것만으로도 그 자체로 성공이라고 생각한다"고 말했다.

다른 주요 AI 기업들도 규제가 필요하다는 데 동의한다. 최근 워싱턴에서 열린 업계 사장단 비공개 회의에서 일론 머스크 테슬라 CEO는 AI 규제에 대한 압도적인 공감대가 형성됐다고 말했다.

소수 민족 등 소외지역 논의 포함해야

그러나 채텀하우스 국제문제 싱크탱크의 야스민 아피나는 AI 규제가 빠른 시일내에 국제적 합의에 도달하는 것은 어려울 것이라는 입장이다.

아피나는 "사람들이 동의하는 데 오랜 시간이 걸렸던 핵무기와 비교해 AI는 너무 복잡하고 기술적으로도 다르기 때문에 동의할 만한 것을 협상하는 게 쉽지 않을 것 같다"고 말했다.

아울러 소규모 국가, 소외된 지역 사회, 소수 민족에 속한 사람들도 의미 있는 의견을 제시할 필요가 있다고 지적했다.

아피나는 "그들이 테이블에 참석하지 않고, 실제로 목소리를 내지 않는 한 그들은 소외될 수 밖에 없다"고 우려했다.

한편, 리시 수낵 총리는 영국이 AI 규제의 주도권을 잡기를 원한다. 그러나 지난달 하원 과학혁신기술위원회는 법의 신속한 도입 없이는 유럽연합의 AI 법이 글로벌 표준이 되어 영국의 노력을 대체할 수 없다고 경고했다.

이제는 해체된 AI 위원회의 전 멤버로 정부에 자문을 제공했던 워너는 "영국이 투자를 준비하면 AI의 안전한 발전을 선도할 수 있다"고 주장했다.

그는 "이것은 매우 실용적인 중간 경로로 느껴진다. 현재로서는 AI 규제 법안을 만드는 데 많은 자금이 필요하지 않다"고 말했다.