오픈AI – 포커스온경제 통합 검색

전체기사보기
2024-11-22 (금)

검색

빠르고 정확하며 부드럽게 움직이는 휴머노이드 로봇 '아스트리봇 에스원' 주목

휴머노이드 로봇 신제품 출시 붐이 이어지고 있다. 거의 매주 거르지 않는다. 그런 가운데 어떤 로봇보다 빠르고 정밀하며 부드럽게 움직이는 휴머노이드 로봇이 중국에서 출시돼 주목된다고 뉴아틀라스가 전했다. 새로 선보인 휴머노이드 로봇은 아스트리봇(Astribot)의 에스원(S1)이다. 인공지능(AI)으로 작동되는 휴머노이드 로봇 출시는 올 들어 가속화됐다. 지난 3월에만 오픈AI의 플랫폼을 적용한 인상적인 제품들이 나왔다. 하나는 ‘소프트 터치’ 기술을 뽐낸 노르웨이 협력사 1X의 ‘세탁물을 접는’ 봇이고, 다른 하나는 진정한 차세대 자연어 추론 능력을 시연한 협력업체 피규어(Figure)의 봇이었다. 이번 달에는 보스턴 다이내믹스가 새로운 아틀라스 로봇을 발표하면서 놀라운 손재주로 사람들의 경탄을 자아냈으며, 중국의 UB테크는 소프트 터치 말하기 로봇인 워커S로 깊은 인상을 심어 주었다. 이번에 발표된 에스원도 놀랄만한 성능으로 높은 평가를 받고 있다. 스타더스트 인텔리전스의 자회사로 중국의 싫리콘밸리로 불리는 선전(深川)에 위치한 아스트리봇의 에스원은 빠르고 정확하게 동작한다는 점에서 다른 여타 로봇과 크게 차별화됐다는 사실을 최근 공개된 홍보 동영상에서 보여주고 있다. 아스트리봇에 따르면 에스원은 초당 최고 10m의 속도로 움직일 수 있다. 한쪽 팔로 10kg 무게의 짐을 처리할 수 있다. 두 팔을 사용하면 20kg을 감당한다는 의미다. 그러나 무게는 에스원에게는 그다지 중요하지 않다. 홍보 동영상을 보면 테이블 위에 식탁보를 깔고 그 위에 와인잔을 3층으로 올린 후 에스원이 바닥에 깔린 식탁보를 잡고 신속하게 당겨 빼낸다. 그런데 3층으로 쌓인 와인잔이 무너지지 않았다. 그만큼 빠르다는 얘기다. 로봇은 속도가 빠를 뿐 아니라 놀라울 정도로 정확하다. 스크루를 이용해 와인병 코르크 마개를 따고 와인을 잡아 디켄터에 붓고 디켄터를 흔든다. 오이를 잡고 칼로 껍질을 얇게 깎는다. 프라이팬에 올려진 샌드위치를 뒤집기도 한다. 테이블 위에 올려진 소품들을 서랍을 열고 집어넣어 정돈한 후 서랍을 닫는다. 영상은 로봇이 인간의 움직임을 모방하는 데 매우 능숙하다는 것을 보여준다. 로봇의 학습 능력은 대단히 우수하다. 다만 영상으로 보면 에스원은 상반신만 보인다. 모든 휴머노이드 로봇에는 다리 또는 바퀴와 같은 이동 수단이 있는데, 에스원은 고정된 로봇일 가능성이 높다. 나아가 관계자들은 에스원이 언제 생산될 것인가에 대해서도 궁금해하고 있다. 아스트리봇은 이 같은 궁금증에 대해 공식 발표를 준비하고 있다고 한다. 아스트리봇은 2022년 선전에서 설립됐다고 홈페이지는 밝히고 있다. 에스원 로봇 개발에는 약 1년이 소요됐으며, 올해 말까지는 상용화할 것으로 예상하고 있다. 홈페이지는 또 텐센트 로봇 연구소, 바이두 및 홍콩 폴리테크닉대학교에서 근무했던 라이 지에가 회사를 설립했다고 밝히고 있다. 회사 측은 "아스트리봇이라는 이름은 고대 라틴어 속담 '아스트라퍼 아스페라(Ad astra per aspera)'에서 유래했고, 이는 '우주 먼지에 도달하기 위한 고난의 여정‘을 의미하며, AI 로봇 기술 개발과 대중화에 대한 회사의 장기 계획과 의지를 의미한다“고 밝혔다.
- IT/바이오
2024-04-30
오픈AI-파이낸셜타임스, 콘텐츠 이용·AI기능 개발 파트너십 체결

생성형 인공지능(AI) 챗GPT 개발사 오픈AI와 영국 일간지 파이낸셜타임스(FT)는 29일(현지시간) 콘텐츠 이용과 AI 기능 개발을 위한 파트너십을 체결했다고 발표했다. 로이터통신 등 외신들에 따르면 양사는 이날 성명을 통해 "이번 계약은 오픈AI가 FT의 디지털 콘텐츠를 이용해 챗GPT를 강화하는 데 도움이 될 것"이라며 "또 두 기업은 FT 독자들을 위한 새로운 AI 제품과 기능을 개발하기 위해 협력할 것"이라고 밝혔다. 이들 기업은 구체적인 계약 조건은 밝히지 않았다. 오픈AI는 앞서 미국 통신사인 AP통신, 독일 매체 악셀 스프링거, 프랑스 르몽드, 스페인의 프리사 미디어와도 유사한 계약을 체결했다. 영국 매체와 계약을 맺은 것은 이번이 처음이다. 브래드 라이트캡 오픈AI 최고운영책임자(COO)는 "FT와 파트너십을 통해 전 세계 이용자들에게 실시간으로 풍부한 챗GPT의 경험을 제공할 것"이라고 말했다. FT그룹 존 리딩 최고경영자(CEO)는 "이번 파트너십을 통해 뉴스 소스와 AI를 결합한 다양한 실용적인 결과물을 도출할 수 있기를 기대하고 있다"고 밝혔다. 앞서 FT는 올해 초 모든 직원이 챗GPT를 이용할 수 있도록 기업용 챗GPT 고객이 됐다고 오픈AI는 덧붙였다. 오픈AI는 CNN, 폭스, 타임 등 미국의 유력 언론사와도 콘텐츠 사용 계약을 논의 중인 것으로 알려졌다. 그러나 지난해 12월에는 저작권을 침해당했다고 주장하는 뉴욕타임스(NYT)로부터는 소송을 당해 현재 재판이 진행 중이다.
- IT/바이오
2024-04-30
영국 당국, AI스타트업 투자 관련 아마존과 MS 조사

영국의 경쟁시장국(CMA)는 24일(현지시간) 인공지능(AI) 스타트업과 제휴관련해 아마존과 마이크로소프트(MS)에 대해 조사에 나섰다. 이날 닛케이(日本經濟新聞) 등 외신들에 다르면 CMA는 아마존의 AI스타트업 앤스로픽에 대한 투자와 마이크로소프트(MS)의 AI 스타트업 미스트랄과 인플렉션AI에 대한 파트너십 체결이 AI분야에서 영국의 경쟁을 위협하는지 여부를 판단하기 위해 시장 참여자들로부터 정보를 수집중이라고 밝혔다. 아마존은 앤스로픽에 대해 40억달러(5조5000억원)를 투자하기로 했다. 또한 MS는 미스트랄과 인플렉션 AI와 파트너십을 체결했는데 이들 두 AI 스타트업들 최고경영자(CEO)와 직원 대부분이 MS로 이적키로 했다. CMA 합병 담당 전무이사인 조엘 뱀포드는 "우리는 이 세 가지 거래가 각각 영국 합병 규칙에 속하는지, 영국 경쟁에 영향을 미치는지 여부를 객관적이고 공정하게 평가할 것"이라고 지적했다. 영국 CMA는 일주일 전 호황을 누리고 인공지능(AI) 시장에서 빅테크의 AI스타트업 투자 등 ‘상호연결웹’거래에 대해 경고했다. 아마존이 앤스로픽에 투자한지 1주일여만에 이뤄진 신속한 조치는 AI 스타트업에 투자하는 대형 기술 기업의 패턴이 시장을 형성하고 경쟁 문제를 야기할 수 있다는 기관의 조사 결과에 따른 것이다. MS 대변인은 "우리는 인재 채용이나 AI 스타트업에 대한 부분 투자는 합병과는 다르다고 확신한다"고 말했다. 오픈AI와 마이크로소프트의 파트너십에 대해서 영국 반독점당국은 이미 작년 8월부터 조사를 진행하고 있다. 미국 연방거래위원회(FTC)도 마이크로소프트의 오픈AI 투자 성격과 독점 금지법 위반 여부를 조사하는 초기 단계에 있다. 아마존은 성명을 통해 "CMA가 이런 유형의 협력을 검토한 것은 전례가 없는 일"이라고 밝혔다. 그러면서 "앤스로픽과의 협력에는 제한적인 투자가 포함되어 있으며 아마존이 앤스로픽 이사회에 이사나 옵저버 역할도 부여하지 않으며 앤스로픽이 계속해서 여러 클라우드 제공업체에서 모델을 실행하도록 하고 있다”고 설명했다.
- IT/바이오
2024-04-25
일본 소프트뱅크, 챗GPT 대항 AI 인프라설비에 1.3조원 추가투자

일본 통신기업 소프트뱅크가 고성능 생성형 인공지능(AI) 개발에 필요한 인프라 설비에 내년까지 1500억 엔(약 1조3370억 원)을 추가로 투자한다고 닛케이(日本經濟新聞)이 22일 보도했다. 소프트뱅크는이번 추가 투자를 통해 오픈AI의 챗GPT-4와 비슷한 수준의 최고급 모델을 제작하겠다는 방침이다. 소프트뱅크는 지난해 관련 설비에 200억 엔(약 1780억 원)의 투자를 집행했다. 닛케이는 "계산기반에 대한 투자액으로는 일본 기업 중 최대 규모로 보인다"며 "그래픽처리장치(GPU)는 미국 엔비디아 반도체를 구입한다"면서 "챗GPT-4의 파라미터가 1조 규모에 달한다"고 밝혔다. 이아 "일본 기업인 NTT와 NEC 모델은 수십억~수백억 파라미터에 머문다"고 지적했다. 세계 수준의 생성형 AI 실현이 소프트뱅크의 목표라는 설명이다. 닛케이는 또 "소프트뱅크는 국산 생성형 AI 개발에 맞춰 AI 데이터 센터 정비도 추진한다"며 "최근에는 650억엔(약 5800억 원)을 투자해 홋카이도에 일본 최대급 AI 데이터 센터를 건설하기로 결정했다"고 전했다. 그러면서 "국산 생성형 AI는 경제 안보 측면에서도 중요해졌으며 정부와 기업은 자국 데이터를 국내에서 관리하는 ‘데이터 주권’을 중시하기 시작했다"고 덧붙였다. 이에 앞서 손정의 소프트뱅크그룹 회장은 지난해 10월 "소프트뱅크그룹을 세계에서 AI를 가장 많이 활용하는 그룹으로 만들고 싶다"며 AI 사업을 확대하겠다고 예고했다. 한편 독일 시장조사 업체 스태티스타는 2030년 일본의 생성형 AI 시장 규모가 지난해의 17배인 130억달러(약 17조9530억원)에 이를 것으로 예측했다.
- IT/바이오
2024-04-23
아마존CEO "AWS에 생성형AI 구축…수년간 수백억달러 수익 창출 기대"

앤드류 재시 아마존 최고경영자(CEO)는 11일(현지시간) "생성형 AI(인공지능)는 인터넷 이후 가장 큰 기술 혁신이 될 수 있다"며 아마존도 AI에 집중적으로 투자하고 있다고 밝혔다. 로이터통신 등 외신들에 따르면 재시 CEO는 이날 주주들에게 보낸 연례 서한에서 "AI 솔루션을 통해 얻을 수 있는 사회적, 비즈니스적 이익은 우리 모두를 놀라게 할 것"이라며 이같이 전했다. 그는 "앞으로 수년간 AI가 회사에 수백억 달러의 수익을 창출할 것으로 기대한다"면서 "세상을 변화시키는 AI의 상당 부분이 AWS(아마존 클라우드 부문·아마존웹서비스)에 구축될 것으로 낙관한다"고 자신했다. 다만 그는 아마존도 AI 개발의 초기 단계라며 실제 큰 수익을 창출할 때까지는 시간이 필요할 것이라고 내다봤다. 재시 CEO는 아마존은 현재 AI와 관련해 AI 모델과 챗GPT와 같은 모델을 기반으로 만들어진 애플리케이션, 이를 구동시키는 칩 개발 등 3가지에 집중하고 있다고 설명했다. 또 AI 전문가인 미 스탠퍼드대 앤드루 응 겸임교수를 이사회 멤버로 추가했다고 밝혔다. 응 교수는 머신러닝과 딥러닝 알고리즘 분야를 연구해 온 'AI 4대 천왕'으로 꼽히는 전문가다. 아마존은 챗GPT 개발사 오픈AI의 라이벌로 평가받는 AI 스타트업 앤스로픽(Anthropic)에 40억 달러를 투자했다. 작년 11월에는 자체 개발한 업그레이된 AI 칩 '트레이니엄2'(Trainium2)를 공개했다. 또 지난해 11월에는 기업에서 직원들의 업무를 도와주는 AI 챗봇 '큐(Q)'를 선보이고, 지난 2월에는 고객들에게 최상의 제품을 추천해 주는 AI 기반의 쇼핑 챗봇 '루퍼스'를 출시한 바 있다. 재시 CEO는 이어 아마존의 스트리밍 서비스인 '프라임 비디오(Prime Video)'와 위성 인터넷 사업 전망에 대해선 낙관했다. 아마존은 광고 사업을 더욱 발전시키고 엔터테인먼트 수익을 창출하기 위해 최근 스트리밍 서비스에 광고를 추가했다. 또 '프로젝트 카이퍼'라는 위성 인터넷 사업을 위해 지난해 10월 진행한 두 기의 시험 위성 발사에 대해 "주요 이정표를 세웠다"고 자평했다. '프로젝트 카이퍼'는 아마존이 향후 10년 안에 최대 3236개의 위성을 쏘아 올려 위성 인터넷 사업을 한다는 계획으로, 일론 머스크 테슬라 CEO의 우주기업인 스페이스X의 스타링크와 같은 사업이다. 그는 "올해 첫 상업용 위성을 발사할 것으로 기대한다"며 "아직 갈 길이 멀지만, 우리의 진전에 고무됐다"고 말했다. 재시 CEO는 또 아마존이 여전히 비용 절감에 전념하고 있다고 말했다. 그는 "우리는 주문 처리 네트워크에 대한 모든 부분을 재평가해 비용을 더 줄이면서 고객들에게 더 빨리 배송할 수 있는 여러 영역을 발견했다"며 "지난 1년간 창고에 판매하는 물품들을 고객들에게 더 가깝게 배치하기 위해 배송 시스템을 개편해 비용을 절감했다"고 설명했다. 아마존은 2022년 말부터 지난해 초까지 2만7000명의 일자리를 줄인 데 이어 최근에는 AWS에서 수백명을 해고하는 등 인력을 감축해 오고 있다.
- IT/바이오
2024-04-12
샘 올트먼, 글로벌 AI 인프라 확장 협력 논의

샘 올트먼 오픈AI 최고경영자(CEO)가 인공지능(AI) 인프라 확장을 위해 각국의 정부 및 민간 리더들과 전략적 협력을 통해 AI 기술 개발에 필요한 핵심 자원의 공동 확보를 추진하고 있다. 11일 연합뉴스는 10일(현지시간) 블룸버그통신을 인용해 이같이 보도했다. 올트먼은 이번 주 아랍에미리트(UAE)에서 투자자들과 정부 관리들을 만나 대규모 AI 인프라 구축을 위한 민간 부문과 국가의 협력 방안을 논의한 것으로 전해졌다. 그는 이전에 서방 국가 관계자들과도 같은 주제에 대해 의견을 나누었으며, 곧 미국 워싱턴에서도 관련 회의를 개최할 계획이다. 최근에는 지나 러몬도 미국 상무부 장관과도 만났다. 또한 올트먼은 반도체 벤처 기업들을 지원하기 위해 전 세계 투자자들로부터 수십억 달러를 모으는 계획을 추진 중이다. 이 자금은 반도체 제조 공장 네트워크 구축에 할당될 예정이다. 그는 에너지 및 데이터센터의 용량 확대를 위해 혁신적인 에너지원의 필요성을 강조하며, 저렴한 태양광 발전이나 핵융합 기술이 AI 개발을 가속화할 수 있다고 제언했다. 파이낸셜타임스(FT)는 최근 AI 개발이 급속도로 진행됨에 따라, 전통적인 평가 방식으로 새로운 AI 모델의 안전성이나 정확성을 제대로 평가하기 어려운 상황이라고 전했다. AI 도구를 개발하고 테스트하고 투자하는 사람들 사이에서는 현재 널리 사용되는 평가 기준이 새 모델의 성능이나 안전성을 측정하는 데 적합하지 않다는 의견이 제기되고 있다. 익명을 요구한 관계자들에 따르면, 최신 AI 모델의 복잡성에 비해 전통적인 평가 도구는 너무 단순하고 이러한 복잡성을 충분히 반영하지 못한다고 지적한다. 에이단 고메즈 인공지능 스타트업 코헤어의 설립자이자 최고경영자(CEO)는 "공개된 평가 기준은 유효 기간이 있음을 인식해야 한다. 이는 평가 대상 모델에 적합한 경우에만 유용하며, 과거에는 이 유효 기간이 몇 년이었지만 현재는 몇 달로 단축되었다"고 밝혔다. 그는 또한 "기존 평가 기준을 초월하는 새로운 AI 시스템의 등장이 일상화되고 있다. 이로 인해 과거의 평가 방식은 더 이상 적용되지 않게 된다"고 설명했다. 마이크로소프트의 코드 저장소인 깃허브의 최고 법률 책임자 셸리 맥킨리는 "사람들은 신뢰할 수 없는 기술을 사용하지 않을 것이며, 신뢰할 수 있는 제품을 제공하는 것은 기업의 책임"이라고 강조했다.
- IT/바이오
2024-04-11
인간처럼 사고하고 계획하는 차세대 AI 나온다

오픈AI와 메타가 '추론'과 '계획'이 가능한 진화된 인공지능(AI) 언어모델을 조만간 출시할 것으로 보인다. 영국 일간 파이낸셜타임스(FT)는 10일(현지시간) 오픈AI와 메타가 각각 차세대 대형언어모델(LLM)의 공개를 준비 중이라고 보도했다. 메타는 향후 몇 주 안에 '라마 3'를 출시할 예정이라고 이날 발표했고, 오픈AI도 차세대 모델인 'GPT-5'를 곧 내놓는다고 밝혔다. 두 기업 모두 새로운 AI 모델이 추론과 계획 능력을 갖추고 있음을 강조 중이다. 메타의 AI연구 부문 부사장 조엘 피노는 “AI 모델들이 그저 대화만 하는 것이 아니라 실제로 추론하고, 계획하고 또 기억할 수 있도록 하는 데 주력하고 있다”고 말했다. AI 대표 기업들이 한층 진전된 새 모델을 출시함에 따라 최근 화제가 된 일론 머스크 테슬라 최고경영자(CEO)의 "인간을 능가하는 AI가 내년 안에 나올 수도 있다"는 발언이 현실이 될 가능성도 커졌다. 메타의 AI 수석과학자 얀 레쿤은 새로운 기능 개선이 이루어지면 "가능한 답을 찾기 위한 검색"과 "일련의 행동들에 대한 계획", "자신의 행동에 따른 영향 파악" 등을 AI가 해낼 수 있을 것이라고 전망했다. 오픈AI의 브래드 라이트캡 운영책임자(COO)는 FT와 인터뷰에서 "차세대 AI 모델이 추론과 같은 어려운 문제들을 해결하는 데 진전을 보일 것"이라고 밝히기도 했다. 라이트캡은 오늘날의 AI 시스템은 "일회성 소규모 작업에는 정말 능숙하지만 여전히 그 기능이 매우 제한적"이라면서 "좀 더 정교한 방식으로 더 복잡한 임무를 수행할 수 있는 AI를 볼 수 있게 될 것”이라고 자신했다. FT는 추론과 계획 능력이 행동의 결과를 예측할 수 있게 해 주기 때문에 AI가 인간 수준의 인지 능력을 갖추는 데 중요한 단계라고 설명했다.
- IT/바이오
2024-04-11
구글, AI기반 검색 유료화 검토⋯출시여부·시기 미정

구글이 인공지능(AI) 기반 검색 기능을 유료화하는 방안을 검토하는 것으로 확인됐다. 파이낸셜타임스(FT)는 3일(현지시각) 정통한 소식통들을 인용해 구글이 프리미엄 구독 서비스에 특정 AI 기반 검색 기능을 추가하는 등의 옵션을 검토 중이라고 전했다. 구글은 이미 프리미엄 구독 서비스를 통해 지메일과 구글독스에서 새로운 제미나이 AI 어시스턴트 기능을 제공하고 있다. 구글의 이같은 조치는 핵심 부문인 검색 서비스를 유료화하는 첫 사례가 된다. 검색 부문 수익 모델의 대대적인 재편이 이뤄지는 것이다. 소식통은 "엔지니어들이 서비스 도입에 필요한 기술을 개발하고 있지만 출시 여부와 시기에 대한 경영진의 최종 결정은 내려지지 않았다"고 설명했다. 또 기존의 검색 엔진은 무료로 유지하며, 검색 결과와 함께 광고도 계속 표시한다. 구글은 지난해 검색 엔진 광고 부문에서 전체 매출의 절반이 넘는 1750억 달러(약 236조원)를 벌었다. 구글은 2022년 11월 오픈AI의 챗GPT 출시 이후 경쟁에 대응하기 위해 안간힘을 쓰고 있다. 지난해 5월 AI 기반 검색 서비스 시험을 시작했다. 그러나 '생성형AI 검색' 기능 추가 작업은 더디게 진행되고 있다. FT는 "'AI 기반 스냅샷'을 포함한 이런 종류의 검색 결과는 생성형 AI가 훨씬더 많은 컴퓨팅 리소스를 소비하기 때문에 비용이 더 많이 든다"고 지적했다. 오픈AI와 광범위한 파트너십을 맺고 있는 마이크로소프트(MS)는 1년여 전 빙(Bing) 검색 엔진에 향상된 GPT 기반 검색과 현재 코파일럿이라고 불리는 챗봇을 출시했다. 하지만 AI 기능은 구글에 크게 뒤쳐져 있는 빙의 시장 점유율을 높이는 데에는 큰 도움이 되지 않았다고 FT는 덧붙였다.
- IT/바이오
2024-04-05
[파이낸셜 워치(1)] AI투자, 과대광고와 사기 행위로 가득한 '거품'인가, 혁신의 '발판'인가?

데미스 하시비스(Demis Hassibis) 구글 딥마인드 CEO는 최근 파이낸셜타임스(FT)와의 인터뷰에서 인공지능(AI) 업계가 과대광고와 사기꾼들로 가득 차 있다고 지적했다. 하시비스는 "많은 돈이 투자되는 AI 기업과 프로젝트들이 암호화폐 업계의 투자 열기와 비슷한 과대광고와 잠재적인 사기 행위를 낳고 있다"고 말했다. 그는 "이 같은 현상이 실제 연구 개발을 가리는 안 좋은 영향"이라고 우려했다. 하지만 하시비스는 "과학적 연구는 괄목할 만한 성과를 거두고 있다"며 "어떤 의미로는 AI 업계가 충분히 주목받지 못하고 있다"고도 말했다. 즉, 그는 AI의 과대광고는 문제이지만 전체적인 연구 활동에 대한 관심 부족 또한 문제라고 지적했다. 2022년 암호화폐 시장의 붕괴 사례를 볼 때, 하시비스의 우려는 낯설지 않게 느껴진다. 2022년 5월 가격이 서로 연동된 알고리즘 스테이블코인 테라-루나 코인의 붕괴에 이어 같은해 11월 유명 암호화폐거래소 FTX의 파산으로 가상자산 시장은 곤경에 처했다. 실제로 일부 전문가들은 AI 업계에도 버블 현상이 일어날 수 있다고 예상한다. 하시비스는 이러한 상황에서도 딥마인드의 실적을 바탕으로 신중한 입장을 견지하고 있다. 2010년 설립된 딥마인드는 2016년 알파고(AlphaGo)의 성공으로 인공지능 분야에 큰 파장을 일으켰으며, 2021년에는 단백질 구조 예측 문제를 해결하는 알파폴드(AlphaFold)를 개발해 다시 한 번 이목을 집중시켰다. 구글은 2023년 4월 딥마인드를 인수했다. 하시비스가 언급한 것처럼 오픈AI의 '대화형 생성 AI' 챗GPT와 같이 텍스트와 이미지 생성 인공지능 툴이 대중의 관심을 끄는 등 인공지능은 매우 다양한 분야에서 활용되고 있다. 많은 스타트업들이 아직 성숙하지 않은 제품에 오픈AI API(개발자들이 인공지능 모델을 손쉽게 사용할 수 있도록 만들어진 프로그래밍 인터스페이스)만 삽입해 기업 운영을 하고 있는 반면, 몇몇 기업들은 기계 학습을 활용해 사지 마비 환자의 팔 움직임을 돕거나 과학 및 의료 분야 연구를 지원하는 등 진정한 혁신을 이루고 있다. 업계에서는 명확한 수익 창출 모델 없이 투자 자금이 무분별하게 투입되는 것은 사기와 붕괴의 위험을 높이며, 이로 인해 진정한 혁신이 저해받는 것은 바람직하지 않은 상황이라고 우려하고 있다. 하시비스는 "우리는 아직 인공지능의 과학적 잠재력의 일부만을 경험하고 있으며, 향후 10년 동안 더 많은 성과가 나올 것"이라고 기대했다. 한편, 기술주 애널리스트 리처드 윈저는 CNBC의 리서치 노트에서 AI 거품이 꺼지면 어떤 일이 벌어질지 다양한 비유를 들어 설명했다. 그는 "기업의 펀더멘털에는 거의 관심을 기울이지 않은 채 AI 분야에 자본이 계속 쏟아지고 있다"고 썼다. 퓨처리즘에 따르면 윈저는 기업들이 "AI와 원격으로 연결될 수 있는 모든 것에 서두르고 있다"고 지적했다. 그는 "1999년 인터넷, 2017년 자율 주행, 그리고 2024년 생성 AI가 바로 이런 사례"라고 밝혔다. 이러한 비교를 한 것은 윈저가 처음은 아니다. 수익을 창출할 뚜렷한 방법이 없음에도 불구하고 투자자들은 여전히 AI 기업에 막대한 현금을 쏟아붓고 있다. 스파크라인 캐피털의 설립자이자 최고투자책임자인 카이 우는 지난해 월스트리트 저널과의 인터뷰에서 "어떤 사람들은 막대한 대가를 치르더라도 AI에 노출되려고 애쓰는 반면, 다른 사람들은 이것이 눈물로 끝날 것이라는 경종을 울리고 있다"고 말했다. 지난주에는 억만장자 더블라인 캐피털의 CEO인 제프리 건들락도 AI 열풍을 닷컴 버블에 비유했다. 건들락은 "지금은 1999년과 매우 흡사한 느낌이다"라고 비즈니스 인사이더가 인용한 지난주 X 스페이스 방송에서 말했다. 후스만 인베스트먼트 트러스트의 사장인 존 후스만도 리서치 노트에서 "투자자들은 현재 미국 금융 역사상 가장 극단적인 투기 거품의 더블 탑을 즐기고 있다는 인상을 받았다"라고 적었다. AI 거품이 터지면 그 결과는 치명적일 수 있다. 윈저는 AI 관련 스타트업이 결국 "사내 기반 모델이 없는 대기업에 인수될 것"이라고 예측했다.
- IT/바이오
2024-04-03
미-영, 'AI 안전성' 서명…양국간 세계 최초 협정 체결

미국과 영국이 인공지능(AI) 기술의 안전성을 점검하는 데 서로 협력하기로 합의하고 양국 간 협정에 서명했다. 1일(현지시간) 파이낸셜타임스(FT)와 타임 등 외신에 따르면 지나 러몬도 미국 상무부 장관과 미셸 도넬란 영국 과학혁신기술부 장관은 이날 미국 워싱턴DC에서 만나 AI 관련 협정에 서명했다. 해당 협정은 양국 정부가 AI 안전에 대한 기술적 지식과 정보, 인재를 어떻게 공유할지 등에 대해 명시하고 있다. 이 협정은 세계 최초의 AI 안전에 대한 양자 간 합의로, AI 신기술이 사이버 공격이나 생화학적 무기 설계 등에 사용되는 등의 실존적 위험이 될 가능성에 대한 규제강화 차원에서 이루어졌다. 이는 세계 최초로 AI 안전을 주제로 한 양국 간 합의로, AI 기술이 사이버 공격이나 생화학적 무기 설계 등에 악용될 가능성에 대한 대응책 마련을 위해 체결됐다. 도넬란 장관은 FT와의 인터뷰에서 차세대 AI 모델이 게임 체인저가 될 가능성이 있으며, 이에 대응하기 위해 신속한 행동이 필요하다고 강조했다. 그는 "아직 새 모델이 어떠한 역할을 할 수 있을지 알지 못한다"고 말했다. 지난해 11월 설립된 영국의 AI안전연구소(AISI)와 미국이 곧 설립할 관련 연구소는 이 협정을 통해 양국 연구원들을 상호 파견하는 등의 방법으로 전문 지식을 공유할 예정이다. 이 협정에 따라, 오픈AI와 구글 같은 민간 기업이 개발한 AI 모델을 독립적으로 평가하는 작업에도 양국이 협력하게 된다. 이 파트너십은 영국 정부 커뮤니케이션 본부(GCHQ)와 미국 국가안보국(NSA) 간의 정보 및 보안 문제에 대한 긴밀한 협력을 모델로 삼고 있다. 도넬란 장관은 미국이 이 협정을 체결함으로써 영국이 AI 안전 분야에서 어떻게 리더십을 발휘하고 있는지를 보여주는 것이라고 평가했다. 그는 AI 분야의 주요 기업들이 미국에 위치해 있기 때문에 미국 정부의 전문성은 AI의 위험성을 이해하고 기업들로 하여금 약속을 이행하도록 하는 데 중요하다고 강조했다. 러몬도 장관은 이 협정을 통해 양국이 국가 안보와 사회 전반에 걸친 모든 AI 위험 영역에서 협력을 가속화할 것이라고 밝혔다. 러몬도 장관은 "이는 양국 기관이 AI 시스템을 더 잘 이해하고, 더 정확하게 평가하며, 더 엄격한 지침을 마련하는 데 기여할 것"이라고 덧붙였다.
- IT/바이오
2024-04-02
MS·오픈AI, 130조원 투자로 AI 초격차 노려⋯데이터센터 건설

마이크로소프트(MS)와 오픈AI는 사업규모 최대 1000억 달러(약 130조 원)를 투입해 데이터센터를 건설할 계획을 세우고 있다. 로이터통신은 3월 31일(현지시간) 정보통신(IT) 전문매체 디인포메이션을 인용해 투자규모면에서 현재 가장 큰 데이터센터의 100배에 달하는 데이터센터 건설을 계획하고 있다고 보도했다. MS와 오픈AI가 이를 통해 인공지능(AI) 분야 초격차 만들기에 돌입한 것으로 분석된다. '스타게이트'로 불리는 이 프로젝트는 MS가 자금을 마련할 가능성이 높으며 MS와 오픈AI 양사는 앞으로 6년에 걸쳐 데이터센터를 건설할 계획인 슈퍼컴퓨터중에서 최대 규모다. MS와 오픈AI는 슈퍼컴퓨터 개발을 5단계로 나누어 진행할 계획이며 현재는 이중 3단계에 도달한 상황이다. MS가 개발중인 4단계째 오픈AI용 슈퍼컴퓨터가 오는 2026년에 투입될 것으로 예상되면 스타게이트는 5단계째가 된다. 4, 5단계의 개발비용 대부분은 필요한 AI칩의 확보와 연관된다. 이 프로젝트는 복수의 공급망의 반도체칩을 사용할 수 있도록 설계되고 있다. 데이터센터의 핵심인 슈퍼컴퓨터에는 오픈AI의 AI모델을 구동하기 위한 수 백만개의 AI칩이 들어갈 예정이다. 엔디비아의 AI칩 이외에도 MS가 지난해 개발한 AI칩(마이어100) 등을 활용할 것으로 보이는데, 두 회사의 이번 프로젝트로 AI칩에 필수적인 고대역메모리칩(HBM)을 생산하는 삼성전자와 SK하이닉스 등 국내 기업들이 수혜를 볼 가능성도 있다. MS·오픈AI 연합의 데이터센터가 완성되면 양사는 외부 의존 없이 자체 AI 인프라를 바탕으로 AI 서비스를 판매할 수 있게 된다. 막강한 AI 인프라를 바탕으로 오픈 AI의 기술 개발도 탄력을 받을 것으로 보인다. 오픈 AI는 하반기 차기 생성AI 모델인 ‘GPT-5’를 공개할 예정이다. MS측은 이와 관련, "우리는 AI능력의 프론티어를 계속 추진하기 위해 필요한 차세대 인프라혁신을 늘 꾀하고 있다"고 말했다. AI 신드롬 속 MS와 경쟁하는 아마존과 구글도 바삐 움직이고 있다. 아마존은 향후 15년간 데이터센터에 약 1500억달러(약 202조원)를 투자하기로 했고, 구글도 영국에 10억 달러(1조3444억원)를 들여 데이터센터를 설립할 예정이다.
- IT/바이오
2024-04-01
마이크로소프트, 챗봇 악용 방지 도구 개발

마이크로소프트(MS)가 사용자가 인공지능(AI) 챗봇을 속이는 것을 방지하는 도구를 개발한다. 28일 야후 파이낸스에 따르면 마이크로소프트는 이날 블로그 게시물을 통해 개발자가 자신의 데이터를 사용해 맞춤형 AI 도우미를 구축할 수 있도록 새로운 보안 기능이 애저 AI 스튜디오(Azure AI Studio)에 탑재될 예정이라고 밝혔다. 이 도구에는 악의적인 조작 시도, 즉 프롬프트 인젝션 공격 또는 제일브레이크라고도 알려진 시도를 탐지하고 차단하도록 설계된 '프롬프트 보호 기능'이 포함된다. 이러한 공격은 AI 모델이 의도하지 않은 방식으로 작동하도록 한다. 마이크로소프트는 또한 해커가 모델이 학습하는 데이터에 악성 명령을 삽입해 사용자 정보를 탈취하거나 시스템을 공격하는 등 부적합한 작업을 수행하도록 속이는 '간접적인 프롬프트 인젝션' 문제에도 대응하고 있다. 마이크로소프트는 대화형 AI 챗봇인 챗GPT를 개발한 오픈AI의 최대 투자자이다. 사라 버드(Sarah Bird) 마이크로소프트의 책임 AI 최고 제품 책임자는 "이러한 공격은 독특한 과제이자 위협"이라고 말했다. 새로운 방어 기능은 의심스러운 입력을 실시간으로 감지하고 차단하도록 설계됐다. 또한 모델이 허위 정보를 만들거나 잘못된 응답을 생성할 때 사용자에게 경고하는 기능도 출시된다. 마이크로소프트는 현재 개인과 기업 고객 모두가 사용하고 있는 생성형 AI 도구에 대한 신뢰를 높이기 위해 노력하고 있다. 지난 2월에는 회사가 해로운 범위의 응답을 생성하는 코파일럿 챗봇과 관련된 사건을 조사했다. 검토 결과, 마이크로소프트는 사용자가 의도적으로 코파일럿을 속여 응답을 생성하려고 했다고 설명했다. 코파일럿 공격은 AI 모델, 특히 대규모 언어 모델을 악의적으로 조작하여 의도하지 않은 작업을 수행하도록 만드는 공격을 의미한다. 공격자는 모델에 잘못된 정보를 주입하거나 모델 학습 데이터를 조작하여 모델이 원하는 대로 작동하도록 속일 수 있다. 버드는 "도구 사용이 증가함에 따라 이러한 기술에 대한 인식이 늘어나면서 확실히 증가하고 있다"고 말했다. 이러한 공격의 징후는 챗봇에게 질문을 여러 번 반복하거나 롤 플레잉을 설명하는 프롬프트를 포함한다.
- IT/바이오
2024-03-29
머스크의 생성형AI 그록, 모든 X 프리미엄 가입자로 이용 확대

일론 머스크 테슬라 최고경영자(CEO)가 자신의 생성형 AI(인공지능) 챗봇인 '그록(Grok)' 이용자를 확대하고 있다. 머스크는 27일(현지시간) 자신의 소셜미디어(SNS) 엑스(X·옛 '트위터')에 "이번 주 후반 모든 X의 프리미엄 가입자들은 그록을 이용할 수 있을 것"이라고 올렸다. 그록은 오픈AI가 개발한 챗GPT와 같은 생성형 AI로 머스크가 지난해 7월 설립한 AI 스타트업 xAI가 대규모언어모델(LLM) 그록-1(Grok-1)을 기반으로 개발됐다. 그록은 작년 12월 공식 배포된 이후 미국에서 X 계정 이용자 가운데 광고 없이 계정을 이용할 수 있는 월 16달러 요금제인 '프리미엄 플러스' 가입자들에게만 배포돼 왔다. 약 4개월 만에 모든 프리미엄 가입자에게까지 확대되는 것이다. X는 올해 현재까지 일일 평균 활성 이용자 수가 약 2억5000만 명, 월간 이용자 수는 5억5000만 명에 달한다고 밝혔다. X는 등급별 구체적인 이용자 수는 밝히지 않았지만, 리서치 기업 스태티스타에 따르면 유료 구독 서비스 등급이 하나였던 작년 4월 기준 프리미엄 가입자 수는 약 64만명에 달했다. 그록이 보폭을 넓혀가면서 오픈AI의 챗GPT, 구글의 제미나이, 페이스북 모회사 메타의 메타 AI 등 비슷한 유형의 생성형 AI 간 치열한 경쟁이 예상된다. 그록의 출시가 X의 수익 창출에 도움이 될 수 있을지도 관심사다. 머스크는 지난해 11월 자신의 X 계정에 반유대주의 음모론을 담은 주장에 동조하는 글을 올렸다가 반유대주의 논란에 휩싸였다. 이에 IBM과 애플, 디즈니, 월마트 등 대형 기업들이 X에 광고를 중단했다.
- IT/바이오
2024-03-28
일본 NTT, 자체 생성AI 츠즈미 서비스 개시

일본 통신사 NTT는 25일(현지시간) 생성인공지능(AI)을 기반으로 한 자체개발 대규모 언어모델(LMM) '츠즈미(Tsuzumi, 우리나라 장구와 유사한 모양의 일본 전통 타악기)' 서비스를 이날부터 제공한다고 발표했다. 이날 닛케이(日本經濟新聞) 등 외신들에 따르면 NTT는 이미 500개 이상의 기업과 지자체로부터 도입상담이 쇄도하고 있다고 밝혔다. 츠즈미는 일본어 문장의 유창함이 장점이며 성능지표가 되는 파라미터수를 적게 해 소비전력 등 운용비용을 크게 줄였다. 츠즈미는 언어와 기능을 압축해 소형화를 실현했다. 일본어와 영어에 대응해 파라미터수는 우선 70억 타입을 준비했다. 미국 스타트업 오픈AI의 챗GPT의 기반이 된 GPT-3의 약 25분의 1에 상당한다. 데이터 학습이 저비용으로 가능하게 돼 미국 IT대기업 등에 대항하는 모델로 내놓았다. NTT가 40년이상 취급해온 자연언어 처리 축적량을 살려 일본어 성능은 전세계 최고급이라고 지적했다. 개인용 이용은 상정하지 않으며 기업과 단체 등 수요를 발굴할 방침이다. 슬라이드와 도표, 청구서 등의 이미지를 읽어들일 수 있다. 시마다 아키라(島田明) NTT사장은 설명회에서 "사내 데이터를 학습시켜 자사에 특화한 LLM을 구축하기를 기대하는 니즈가 높다"고 설명했다. NTT와 도입상담을 한 500개이상의 기업과 지자체를 업계별로 보면 제조업이 18%, 금융업이 12%, IT업계가 11%였다. 지자체는 14%를 차지했다. 이용 용도로서는 컨설팅과 가상컨시어지 등 고객대응과 의사록 작성 및 요약 등 업무개선이 각각 30%정도 차지했다. 기업과 지자체가 예상하는 활용방법도 밝혀졌다. 드럭스토어 '세임스'를 운영하는 후지약품은 고객의 카운셀링 데이터를 기반으로 한 추천상품의 제안 등 가상인간과 조합한 접객을 상정한다. 후쿠이(福井)현에서는 주민들부터 문의에 활용할 수 있는지를 검토하고 있다. 직원의 업무부담의 경감 등으로 연결하려는 목적이 있다. 이용환경은 온프레미스(자사소유)뿐만 아니라 NTT그룹의 클라우드에 이용할 수 있기 때문에 비밀성 높은 데이터도 보안을 확보할 수 있다. 그룹에서 기업용 IT서비스 사업을 다루는 NTT커뮤니케이션과 NTT데이터 등을 통해 제공한다. NTT는 오는 2027년에 연간 1000억엔(약 8844억원)이상 매출액을 목표로 하고 있다. 앞으로는 NTT가 개발중인 통신기반 아이온(IOWN)에서 생성AI끼리를 연결해 대규모 언어모델에 필적하는 성능을 갖도록 할 계획이다. 일반적으로 파라미터급의 수많은 거대모델은 폭넓은 지식을 익히는 한편 학습 등에 막대한 소비전력이 드는 과제가 놓여있다. 챗GPT와 같은 거대모델에서는 1회 학습에서 원자력발전소 1기를 1시간 가동시킬 정도의 발전량을 소비한다는 계산도 나온다. 경량화는 이같은 부담을 줄여 주목도가 높아지고 있다.
- IT/바이오
2024-03-26
엔비디아, AI 기반 의료용 휴머노이드 로봇 개발

인공지능(AI) 칩 전문 기업 엔비디아가 헬스케어 기업 히포크라테스AI와 공동으로 인간 간호사보다 능력이 뛰어나고 시간당 비용도 훨씬 저렴한 생성형 인공지능 의료용 휴머노이드 로봇을 개발한다고 밝혔다. 21일(이하 현지시간) 폭스비즈니스에 따르면 두 회사는 엔비디아에 의해 구동되고, 히포크라테스AI의 헬스케어 관련 거대언어모델(LLM)로 훈련시킨 '공감형 헬스케어 의료로봇'을 만들기 위해 협력한다고 발표했다. 이 로봇은 '초저지연 대화 반응' 방식으로 인간과 소통할 수 있다. 이 로봇은 이미 미국에서 1000명 이상의 간호사와 100명의 의사가 테스트했으며, 수십 곳의 헬스케어 업체들이 비진단 상황에서 내부적으로 점검하고 있다. 회사가 제출한 자료에 따르면 이 로봇은 모든 테스트 항목에서 오픈AI의 챗GPT4나 LLaMA 270B 챗과 같은 경쟁사 제품뿐 아니라 인간 간호사보다 뛰어난 것으로 나타났다. 실험모델은 인간 간호사보다 약물의 영향 식별에서 79% 대 63%로 뛰어났으며, 특정 조건에서 허용되지 않는 금지 약품을 식별하는데도 88%대 45%로 두 배 가량 우수했다. 또 약물 가치와 참고범위 비교에서는 96% 대 93%로, 일반의약품의 독성 용량 감지에서 81% 대 57%로 우수한 성능을 보였다. 두 회사는 이 의료 로봇이 미국 내 의료 인력 부족 문제를 완화하는 데 도움이 될 것이라고 강조했다. 문잘 샤 히포크라테스AI의 공동 설립자이자 최고경영자(CEO)는 성명에서 "우리는 엔비디아와 협력해 기술을 지속적으로 개선하고 접근성과 형평성 등을 향상시켜 환자를 개선하려는 영향력을 확대하려 하고 있다"고 말했다. 킴벌리 파월(Kimberly Powell) 엔비디아 헬스케어 담당 부사장은 "생성 AI로 구동되는 음성 기반 디지털 의료로봇은 의료 분야에서 풍요로운 시대를 열 수 있지만, 이는 기술이 사람처럼 환자에게 반응하는 경우에만 가능하다"고 말했다. 히포크라틱 웹사이트에 따르면 이 로봇 운영비용은 인간 간호사의 약 25% 수준인 시간당 9달러다. 노동통계국 자료 기준 2022년 미국 내 간호사의 평균 시간당 급여는 39.05달러였다. 엔비디아는 새로운 기반 모델인 프로젝트 GR00T를 통해 휴머노이드 로봇 분야에 진출하고 있다. 이 회사는 이번 주 개발자 컨퍼런스에서 인공지능(AI) 시스템을 발표하며, 영상과 이미지 제작을 위한 텍스트 생성을 포함해 다양한 작업을 처리할 수 있을 만큼 다재다능하다고 밝혔다. 프로젝트 GR00T(Generalist Robot 00 Technology)는 휴머노이드 로봇이 인간의 행동을 관찰하고 학습하여 자연어를 이해하고 인간의 움직임을 만들 수 있도록 설계됐다. 이를 통해 로봇은 인간 환경을 탐색하고 적응하고 상호 작용하는 데 필요한 조정 및 민첩성과 같은 기술을 빠르게 습득할 수 있다. 젠슨 황(Jensen Huang) 엔비디아 창립자이자 CEO는 컨퍼런스에서 "일반 휴머노이드 로봇을 위한 기초 모델을 구축하는 것은 오늘날 AI에서 해결해야 할 가장 흥미로운 문제 중 하나다"라고 말했다. 그는 "전 세계의 선도적인 로봇 공학자들이 인공 일반 로봇 공학을 향해 큰 도약을 할 수 있도록 지원 기술이 함께 모이고 있다"고 덧붙였다. 또한 복잡한 작업을 촉진하고 사람과 기계 간의 원활하고 안전한 상호 작용을 보장하는 데 유용한 휴머노이드 로봇용 중앙 처리 장치인 젯슨 토르(Jetson Thor) 컴퓨터를 출시했다. 젠슨 황 CEO는 인공일반지능(AGI)이 5년 안에 출시될 것이라고 발표했다. 폭스비즈니스에 따르면 AI는 현재 변호사 시험과 같은 테스트를 통과할 수 있지만 위장병학과 같은 전문 의료 테스트에서는 어려움을 겪고 있다.
- IT/바이오
2024-03-22
[퓨처 Eyes(28)] 챗GPT와 제미나이도 무너뜨리는 AI 웜 모리스 II 등장

생성 인공지능(AI) 시스템을 악용하여 악성코드를 확산시키고 데이터를 탈취할 수 있는 새로운 형태의 AI웜(멀웨어·malware, 악성 소프트웨어의 줄임말) 개발이 가능하다는 사실이 밝혀졌다. 이는 생성 AI 활용의 취약점을 보여주며, 빠르게 발전하는 AI 분야에서 보안 위험에 대한 중요성을 강조한다. 뉴욕주 이타카에 위치한 코넬 테크(Cornel Tech) 대학 연구팀은 '모리스 II'라는 AI웜을 개발해 생성 AI 시스템 악용 시나리오를 제시했다. 스스로 확산되는 AI 기반 멀웨어를 개발한 연구원들은 "이 기술이 이전에는 불가능했던 새로운 종류의 사이버 공격을 수행하거나 수행할 수 있는 능력을 갖게 되었다는 것을 의미한다"고 우려했다. 아직 동료 검사 과정을 거치지 않았지만, 이 연구는 생성 AI가 악성코드 개발에 활용될 수 있다는 심각한 우려를 낳고 있다. 이메일 가상 비서 대상 테스트 와이어드, 퓨처리즘 등 다수 외신에 따르면 연구팀은 제어된 환경에서 실험을 진행해 오픈AI의 챗GPT 최신버전인 GPT-4, 구글의 제미나이 프로, 그리고 라바(LLaVA)라는 오픈소스 대형 언어 모델을 사용하는 이메일 가상 비서를 공격 대상으로 삼았다. 코넬대 연구팀은 '적대적 자기 복제 프롬프트(adversarial self-replicating prompt)'라는 기술을 사용해 악의적인 프롬프트를 주입했다. 인터레스팅엔지니어링에 따르면, 모리스 II는 악성 프롬프트(prompts)를 주입하여 생성 AI 모델을 조작하고, 이를 통해 스팸 메시지 전송, 허위 정보 유포, 개인 정보 탈취 등의 악의적인 활동을 수행할 수 있다. 와이어드의 보도에 따르면 이 웜은 AI 기반 이메일 비서를 공격해 이메일에서 개인 정보와 관련된 민감한 데이터를 얻고 다른 시스템을 감염시키는 스팸 메시지를 발송할 수 있다. 이 논문의 공동 저자인 코넬 테크 연구원 벤 나시는 와이어드에 "AI웜의 출현은 기본적으로 이전에는 볼 수 없었던 새로운 종류의 사이버 공격을 수행할 수 있는 능력을 갖게 되었다는 것을 의미한다"고 말했다. 연구팀은 생성 AI 활용 방식에 따라 두 가지 유형의 취약점을 제시했다. 첫 번째는 생성 AI 서비스 결과에 의존하는 프로그램이다. 이러한 프로그램은 악성 소프트웨어에 의해 조작되거나 악용될 수 있다. 두 번째는 RAG(Recurrent Aggregation of Generative Models, 생성 모델의 반복적 집합) 기술을 사용하여 AI 쿼리를 향상시키는 프로그램이다. 이러한 프로그램은 특히 RAG 기반 생성 AI 웜 공격에 취약하다. 이 연구는 생성 AI 시스템의 보안 취약점을 식별하고 새로운 종류의 멀웨어 공격 가능성을 제시한다. 이를 통해 향후 생성 AI 개발 시 보안을 강화하는 데 기여할 수 있다. 아직까지 실제 환경에서 생성 AI 웜 멀웨어가 발견된 사례는 없다. 심각한 사생활 침해 우려 연구팀은 논문에서 "생성 AI 웜이 '가까운 미래'에 실제 환경에 확산될 경우 '심각하고 불가피한 악영향'을 초래할 수 있다"고 지적했다. 이는 기업들이 생성 AI 가상 비서를 서비스에 도입하기 전에 사이버 보안 위험에 대한 철저한 사전 검토가 필수임을 시사한다. 나시는 와이어드 인터뷰에서 "이름, 전화번호, 신용카드 번호, 주민등록번호 등 기밀 정보가 포함될 수 있다"고 밝혔다. 즉, 이러한 AI 비서는 방대한 양의 개인 데이터에 접근할 수 있으며, 이는 사용자의 사생활 침해로 이어질 수 있다. 연구팀은 새롭게 구축된 메시지 전송 시스템을 활용하여 전송된 이메일 데이터베이스를 효과적으로 '오염'시키고, 이메일 수신인의 가상 비서 AI가 이메일에서 사용자의 이름, 전화 번호, 신용카드 번호, 사회 보장 번호 등 민감한 정보를 탈취하도록 유도했다. 더욱 심각한 문제는 이 과정을 통해 AI 웜이 새로운 컴퓨터로 전파될 수 있다는 점이다. 연구팀은 심지어 이미지에 악성 프롬프트를 삽입해 AI가 다른 이메일 클라이언트를 감염시키도록 유도하는 데 성공했다. 나시는 "사용자의 민감한 데이터가 포함된 응답은 새 클라이언트(고객)로 전송된 이메일에 회신하여 저장될 때 새로운 호스트를 감염시킨다"고 설명했다. 그는 "자체 복제 프롬프트를 이미지에 인코딩하면 스팸, 악용 자료 또는 광고 이미지를 최초 이메일 후 새로운 클라이언트에게 추가로 전달할 수 있다"고 덧붙였다. 연구 결과는 오픈AI와 구글에 전달됐다. 오픈AI 대변인은 와이어드와의 인터뷰에서 "시스템의 탄력성 향상을 위해 노력하고 있다"고 밝혔다. 나시와 동료들은 논문에서 "AI 웜이 향후 몇 년 안에 확산될 수 있으며 심각하고 예상치 못한 결과를 초래할 것"이라고 주장했다. 이는 기업들이 사이버 보안 위험을 사전에 예방하지 않은 채 생성 AI 비서를 깊숙히 통합하려는 움직임에 대한 경고다. AI 웜 피해 규모 예측 AI 웜은 아직 등장하지 않아 정확한 피해 규모를 예측하기는 어렵다. 그러나 기존 웜과 달리 다양한 공격 방식을 사용할 수 있어 피해 범위가 더욱 크고, 예측하기가 더 힘들 수 있다. 또한 AI 웜 공격을 감지하고 차단하는 보안 시스템은 빠르게 발전하고 있지만 아직 완벽하지 않아 공격을 막는 데 어려움을 겪을 수 있다. 연구팀의 지적처럼 AI 웜은 스스로 복제 및 배포 기능을 갖추고 있어 빠르게 확산될 수 있다. 이는 기업, 정부기관, 개인 사용자 등 다양한 시스템에 심각한 피해를 입힐 수 있다. 또한 AI 웜은 네트워크를 공격해 서비스 중단을 유발할 가능성도 존재한다. 유명한 인공지능 선구자인 무스타파 술레이만(구글 소유 딥마인드 연구소 공동 창립자, 현 마이크로소프트 소비자 AI 사업 부문 총괄 책임자)은 과거 AI 기술이 "상상할 수 없는 규모의 재앙"이 될 수 있다고 경고했다. 20일 뉴욕포스트에 따르면 술레이만은 2023년에 출간된 저서 『다가오는 물결(The Coming Wave)』에서 AI, 합성생물학 및 기타 급성장하는 기술을 통해 "다양한 악의적 행위자들이 상상할 수 없는 규모의 혼란과 불안정, 심지어 재앙을 일으킬 수 있다"고 주장했다. 잘못된 정보의 확산을 촉진하고 경제적 격변을 일으킬 수 있는 AI의 잠재력도 그가 우려하는 부분 중 하나다. 술래이만은 지난해 FT와의 인터뷰에서 AI가 사무직 일자리를 뒤흔들고 고용 시장에서 "심각한 수의 패자를 양산할 수 있다"고 경고했다. 동시에 지난해 가을 월스트리트 저널의 책 리뷰에 따르면, 술레이만은 AI를 제대로 활용하면 "인류의 새로운 여명을 열고 사업을 운영하고 질병을 치료하며 전쟁을 치르는 데 도움이 될 수 있다"며 AI의 잠재적 이점에 대해 낙관적인 전망을 내놓기도 했다. 코넬 테크 연구팀이 제안한 AI 웜 시나리오는 초기 단계에 있는 AI 사업 분야에 양날의 검으로 작용할 수 있음을 시사하고 있다.
- 포커스온
2024-03-21
프랑스, 구글 기사콘텐츠 무단사용 이유 3600억원 벌금 부과

프랑스의 독점규제 당국인 경쟁위원회는 20일(현지시간) 미국 구글에 2억5000만 유로(약 3630억 원)의 벌금을 부과한다고 발표했다. 이날 닛케이(日本經濟新聞) 등 외신들에 따르면 경쟁위원회는 구글이 인공지능(AI)의 개발에 각 언론매체의 기사를 무단으로 사용했을 뿐만 아니라 각 매체들과 기사시용료와 관련한 협의에 성실하게 대응하겠다는 약속을 이행하지 않았다는 이유로 이같이 벌금을 부과했다. 프랑스 경쟁위가 기사사용에 대해 구글에 제재금을 부과한 것은 지난 2021년에 이어 두번째다. 경쟁위는 구글이 사실관계에 대해서는 논쟁하지 않는 입장을 나타내고 이번에 지적된 불이행에 대응하기 위해 시정조치를 제시하고 있다고 언급했다. 유럽연합(EU)은 2019년에 IT대기업에 기사의 사용료 지급을 의무화했으며 프랑스도 포함해 개정저작권법을 시행해왔다. 프랑스 경쟁위원회는 이법을 근거로 구글에 기사 사용료에 관해 미디어와 협의하도록 요구했으며 성의있는 협의가 없었다면서 2021년에 5억 유로의 제재금을 부과했다. 구글은 이후 미디어와의 성실한 협의와 미디어가 적정한 보상을 산출하기 위해 필요한 정보의 공개 등 7가지 점을 약속했지만 프랑스 경쟁위는 이준 4가지 점에 대한 이행이 불충분하다면 두번째 제재금 부과조치를 내렸다. 특히 구글의 AI 바드(현재 제미나이)에 대해서 "미디어에게도 프랑스 경쟁위에도 알리지 않고 기반모델을 위해 보도기관과 출판사의 콘텐츠를 이용했다"고 비판했다. 이와 함께 미디어에 대해서 바드에 의한 콘텐츠 사용을 거부하는(옵트아웃) 기술적인 선택지를 보이지 않고 미디어에 의한 적정한 보상협상을 방해했다고 지적했다. AI에 의한 기사사용과 관련해 미국 뉴욕타임스(NYT)가 오픈AI에 출자한 미국 마이크로소프트(MS)를 저작권법 침해로 제소했다. 또한 유럽 미디어 32개사가 디지털광고에서 손해를 끼쳤다며 구글을 제조하는 등 미디어와 IT대기업간 대립이 악화되고 있다.
- IT/바이오
2024-03-21
애플과 구글, 아이폰에 생성AI 탑재 전략적 제휴 논의

애플은 구글의 생성형 인공지능(AI) 제미나이(Gemini)를 아이폰에 탑재하는 방향으로 논의를 진행하고 있는 것으로 알려졌다. 18일(현지시간) 블룸버그통신 등 외신들에 따르면 애플은 올해 새롭게 출시될 아이폰 차기 기본소프트(OS) ‘iOS 18’에 탑재할 신기능의 일부에 대해 제미나이의 라이센스 제공과 관련해 구글측과 교섭을 벌이고 있다. 애플과 구글 양사는 AI계약의 조건과 브랜드명을 결정하지 않았으며 어떻게 협력을 할지 결정하지 못했다. 애플의 연례 개발자회의가 예정된 오는 6월까지 계약이 발표될 가능성은 낮은 것으로 전해졌다. 애플은 간단한 프롬프트에 기반해 동영상 생성과 문서 작성을 포함한 생성AI기능을 제공하는 파트너를 찾고 있으며 최근 마이크로소프트(MS)가 지원하는 오픈AI와도 대화를 갖고 오픈AI의 모델 이용도 검토하고 있다는 것이다. 애플은 생성AI의 대응에서 MS와 구글에 뒤지고 있다. 팀 쿡 애플 최고경영자(CEO)는 지난달 생성AI의 활용계획에 대해 연내에 구체적이 내용을 발표할 입장을 나타냈으며 이 분야에 대규모 투자를 하고 있다고 밝혔다. 알파벳주가는 이날 오전장에 6%이상 올랐으며 애플도 2.5% 상승했다. 양사 제휴가 실현된다면 구글은 자사의 AI서비스 이용을 애플 단말기의 액티브 유저 20억명 이상에 확대할 가능성이 있으며 앞선 오픈AI에 공세를 가할 것으로 예상된다. 또한 AI앱의 대응에 뒤쳐진 애플에 대한 시장의 우려가 완화된다. 다만 미국의 규제당국은 구글이 검색시장의 독점을 유지하기 위해 애플에 거액의 자금을 지급하고 경쟁을 부정하게 저해했다고 구글을 제소하고 있어 이번 제휴가 실현된다면 규제당국의 감시가 더욱 심해질 가능성도 있다. 웨드부시증권의 애널리스트 다니엘 아이부스는 “이번 전략적 제휴는 애플의 AI전략에 빠져 있던 한 요소”라며 “애플의 AI기능을 강화시킬 것”이라고 지적했다. 그는 구글에 대해서도 “거액의 라이센스료를 받을 뿐만 아니라 애플의 에코시스템에 참여할 수 있는 것은 큰 승리”라는 견해를 나타냈다. 구글과 애플이 파트너십은 두 기업이 오랜 기간 라이벌 관계를 형성해 왔고, AI 시장의 판도를 바꿀 수 있다는 점에서 주목받고 있다. 일종의 '오월동주'(吳越同舟·적대적인 상황에서 서로 협력한다는 의미)다. 두 기업은 지난 10년 이상 스마트폰의 양대 축의 경쟁 구도를 형성하며, 각각 안드로이드와 iOS 운영체제로 전 세계 스마트폰 시장의 약 절반을 지배해 왔다. 그러나 AI 시대에 접어들면서 두 기업은 마이크로소프트(MS)와 오픈AI에 뒤처졌다는 평가를 받아왔다. 구글은 당초 AI 기술의 선두 주자였지만, 챗GPT를 내놓은 오픈AI에 시장을 선점당했다. 애플도 아이폰 판매가 감소하는 상황에서 생성형 AI 투자도 뒤처지면서 MS에 시가총액 세계 1위 자리를 내주는 등 고전을 면치 못하고 있다. 이에 따라 이 두 거대 기업의 파트너십은 서로에게 '윈윈'의 기회가 될 수 있다는 평가다. 구글로서는 애플이 아이폰 등에 제미나이를 기반으로 한 생성형 AI를 탑재하면 20억개 이상의 전 세계 애플 기기로 제미나이를 확장할 수 있다. 구글은 이미 삼성전자의 'AI 폰'에도 제미나이를 장착하고 있는 만큼 애플과 손잡으면 오픈AI와 주도권 경쟁에서 우위를 점할 수도 있다.
- IT/바이오
2024-03-19
EU 유럽의회, 전세계 첫 AI규제법 가결⋯내년초 발효, 2년 뒤 적용 예상

유럽연합(EU) 유럽의회는 13일(현지시간) 전세계에서 처음으로 인공지능(AI)의 포괄적인 규제법안을 가결했다. 이날 로이터통신 등 외신들에 따르면 유럽의회는 AI법안에 523명의 의원들이 찬성해 찬성다수로 승인했다. 의원중 46명은 반대, 49명은 기권했다. 유럽의회가 AI규제법을 가결한 것은 AI에 대한 규제가 처음 제안된 지 5년 만이다. 유럽의회가 이날 AI법을 가결함에 따라 EU 27개국 회원국들이 오는 5월엔 정식으로 승인하면 내년 초에 발효되고 오는 2026년부터 적용될 것으로 예상된다. 일부 조항은 이보다 빨리 시행된다. EU 집행위의 역내시장 담당인 티에리 브르통 집행위원은 성명에서 "유럽은 이제 신뢰할 수 있는 AI에 대해 세계적인 모범이 됐다"고 말했다. 미국에서는 이에 해당하는 법규제가 없으며 EU의 법안에 포함된 일련의 규제가 미국과 유럽 각국에 있어서 AI관리를 방향지을 가능성이 있다. 이 AI법안에 대해 기업들은 너무 지나치다라는 우려를 표명한 반면 감독당국은 충분하게 다루지 못하고 있다는 입장을 나타냈다. AI 규제법은 급속하게 진화하고 있는 기술이 초래하는 편견과 프라이버시, 기타 리스크에 대한 우려에 대처하는 것을 목적으로 하고 있다. 구체적으로는 직장과 학교에서의 감정인식기술에 대한 AI 이용을 금지하고 구인신청자의 선별이라는 중요한 사안에서의 사용도 제한하고 잇다. 또한 지난해 챗GPT의 인기로 세계적인 주목을 모았던 생성AI 방식에도 처음으로 제한이 가해지게 된다. 규제대상에는 미국 마이크로소프트(MS)가 출자한 미국 오픈AI가 개발한 생성AI 등이 포함된다. 이들 생성AI는 대량의 데이터로 훈련받아 새로운 콘텐츠를 생성한다든지 업무를 실행하든지 한다. 대상이 되는 영향이 큰 범용AI모델과 리스크가 높은 AI시스템은 특정의 투명성을 충족할 의무와 EU의 저작권법의 준수가 필수적이다. 유럽의 신생 기업부터 오픈AI 및 구글에 이르기까지 범용 AI 모델 개발자는 시스템을 교육에 사용되는 인터넷상의 텍스트, 그림, 비디오 및 기타 데이터에 대한 자세한 요약을 제공하는 등 EU 저작권법을 준수해야 한다. AI가 만든 실존 인물, 장소, 행사 등에 대한 딥페이크 사진, 동영상, 오디오는 인위적으로 조작된 것으로 분류돼야 한다. EU는 강력한 AI 시스템이 "심각한 사고를 일으키거나 광범위한 사이버 공격에 악용될 수 있다"고 우려하고 있으며, 또 생성 AI가 많은 애플리케이션에 "해로운 편견"을 퍼뜨려 많은 사람들에게 영향을 미칠 수 있다고 우려한다. 이러한 시스템을 제공하는 회사는 위험을 평가하고 완화해야 한다. 누군가의 죽음이나 건강, 재산에 심각한 해를 끼치는 오작동 같은 심각한 사건은 보고하고 사이버 보안 조치를 취해야 한다. 또 AI 모델이 얼마나 많은 에너지를 사용하는지도 공개해야 한다. 정부가 공공으로 실시간의 생체인증을 감시할 수 있는 것은 특정 범죄, 테러공격 등의 실질적인 위협 방지, 중대한 범죄의 용의자 수사에 제한된다.
- 포커스온
2024-03-14
구글, AI 챗봇 제미나이에 선거 관련 질문 유형 제한

구글이 자사의 인공지능(AI) 챗봇 '제미나이'(Gemini)에 답변을 요구할 수 있는 선거 관련 질문을 제한하기로 했다. 구글은 12일(현지시간) 블로그를 통해 "이용자들이 제미나이 챗봇에 물어볼 수 있는 선거 관련 질의 유형을 제한할 것"이라며 "올봄 선거가 있는 인도에서는 이미 시행했다"고 밝혔다. 인도는 오는 4∼5월 약 10억명에 이르는 유권자를 상대로 실시되는 세계 최대 규모의 총선을 앞두고 있다. 구글은 "중요한 문제에 대한 경계심을 높이기 위해 제미나이가 답변할 선거 관련 질의 유형에 대한 제한 조치를 시작했다"며 "이런 질의에 대해 양질의 정보를 제공할 책임을 무겁게 받아들이고 있다"고 설명했다. 구글 대변인은 "올해 전 세계에서 치러지는 많은 선거에 대비하고 많은 주의를 기울이기 위한 것"이라고 말했다. 구글의 이날 발표는 올해 미국 대선 등 전 세계 40여개국에서 중요한 선거가 예정된 가운데 AI 기술을 이용한 가짜뉴스 확산에 대한 우려가 커지는 가운데 나왔다. 최근 온라인상에는 수갑을 찬 트럼프 전 대통령, 기관총을 쏘는 바이든 대통령, 백악관에서 프란치스코 교황을 만나는 트럼프 전 대통령 등 AI로 생성된 이미지가 속속 올라오며 이용자에게 큰 혼란을 주기도 했다. 이에 구글과 페이스북 모회사 메타는 앞서 자사의 AI로 생성된 이미지에 라벨을 부착해 이미지 출처를 구별할 수 있게 하겠다고 밝힌 바 있다. 오픈AI도 챗GPT가 제공하는 뉴스·정보와 함께 이미지 생성 도구 '달리'가 제공하는 이미지가 어디에서, 누구에 의해 만들어졌는지 등의 출처를 제공하기로 했다. 이와 함께 현재 구글은 최근 발생한 제미나이의 이미지 생성 기능 오류로 곤욕을 치르기도 했다. 구글은 지난달 1일 제미나이에 이미지 생성 기능을 추가했지만 20여일만인 지난달 22일에 이 서비스를 중단했다. 미국 건국자나 아인슈타인 등 역사적 인물을 유색인종으로 묘사하고, 독일 나치군을 아시아인종으로 생성하는 등 오류가 발견됐기 때문이다. 이 오류로 인해 구글 AI가 신뢰할 수 없는 소스라는 이미지를 심어주고 경쟁 업체에 기회를 제공할 수 있다는 비판도 제기됐다. 구글은 "앞으로 몇 주 안에 이 기능을 재활성화할 계획"이라고 밝혔지만, 아직 기능은 회복되지 않았다.
- IT/바이오
2024-03-13

1 2 3 4 5 6 7 8