AI는 당신을 위해 구글을 원한다

 

AI 에이전트에 대해 처음 들었을 때 나는 그들이 컴퓨터 사용을 모니터링하고 요구 사항을 예측하며 이에 따라 행동을 조작할 수 있다고 생각했습니다. 이것은 완전히 근거가 없는 것은 아니었습니다. 전문가들이 정기적으로 경고를 발하는 AI 기술이 무엇을 가능하게 할 수 있는지에 대한 디스토피아적인 미래가 있습니다. 예상했던 것보다 더 서투른 에이전트 AI의 현재 현실도 있습니다.

지난달 OpenAI는 Operator라는 제품을 출시했습니다. 전문가들이 AI 에이전트라고 부르는 것은 ChatGPT처럼 정보를 기억하고 콘텐츠를 생성할 수 있을 뿐만 아니라 실제로 작업을 수행할 수도 있는 AI 기술 버전을 의미합니다. Operator의 경우 AI는 웹 브라우저를 사용하여 식료품 구매부터 LinkedIn 프로필 업데이트까지 모든 작업을 수행할 수 있습니다. 적어도 이론적으로는요. Operator는 현재 한 달에 200달러를 지불하는 ChatGPT Pro 사용자에게만 제공되는 "연구 미리 보기"입니다. (공개: Vox Media는 OpenAI와 파트너십 계약을 체결한 여러 출판사 중 하나입니다. 우리의 보고는 편집상 독립적입니다.)

현실은 현재 형태의 Operator가 작업을 잘 수행하지 못한다는 것입니다.

 

나는 일주일 동안 그것을 사용해 보았고, 솔직히 말하면 Operator가 느리고 실수를 하며 끊임없이 도움을 요청한다고 보고하게 되어 기쁩니다. 내가 한때 두려워했던 무서운 디지털 Übermensch와는 거리가 멀고, 소비자급 AI 에이전트의 최첨단 기술은 인상적이면서도 위협적이지 않습니다. 근처에서 판매되고 있는 귀하의 크기에 맞는 로드 자전거를 찾아달라고 요청하면 그렇게 할 수 있습니다. 적절한 양의 컨텍스트와 제약 조건을 제공하면 Operator가 실제로 작동합니다. 하지만 시간을 투자하면 더 나은 자전거를 찾을 수 있습니다.

카네기멜론대학교 컴퓨터 공학과 조교수인 Aditi Raghunathan은 "나는 AI가 나를 대신해 결정을 내리는 것을 원하지 않는다는 점에서 일종의 멍청한 조수로 AI를 사용하는 것에 대해 매우 낙관적입니다."라고 말했습니다. "나는 그것이 나보다 더 나은 일을 할 것이라고 믿지 않습니다."

 

AI 에이전트의 기본 개념은 매혹적임과 동시에 끔찍합니다. AI가 일상적인 컴퓨터 작업을 처리하는 것을 원하지 않는 사람이 누가 있겠습니까? 그러나 AI가 컴퓨터를 사용하여 지루한 일을 할 수 있다면 무서운 일도 할 수 있다고 상상해야 합니다. 현재로서는 당신과 나 같은 사람들에게 무서운 일은 값비싼 계란을 사거나 세계 최대의 전문가 네트워크에서 당신의 존재감을 잠시 망치는 것입니다. 경제 전체의 경우, 이는 우리가 AI를 얼마나 신뢰하는지, 그리고 AI가 확인되지 않은 채 작동할 수 있도록 얼마나 많은 자유를 부여하는지에 달려 있습니다.

이번 주 파리 AI 액션 서밋에 글로벌 리더들이 모여 기술의 미래를 논의했습니다. 지난 제2차 세계대전 당시 암호 해독 컴퓨터로 유명한 블레츨리 파크와 서울에서 열린 정상회담에서는 정부가 AI를 견제하기 위해 채택해야 할 규정의 종류를 포함해 AI 안전에 초점을 맞췄습니다. 하지만 이번 회담은 AI 군비 경쟁에서 승리하기 위한 미국과 중국이라는 글로벌 강대국 간의 경쟁심이 고조되고 있음을 부각시키는 것으로 보였습니다. JD 밴스(JD Vance) 부사장도 참석해 “AI의 미래는 안전을 놓고 손싸움으로 쟁취되는 것이 아니다”라고 말했다.

 

그래서 지금은 좀 불안한 것 같아요. 현재 OpenAI가 AI 에이전트 영역에 진출하는 것은 일종의 속임수처럼 느껴지지만, 업계의 최종 목표는 무엇인지 궁금합니다. AI는 부정적인 결과 없이 우리의 삶을 더 쉽게 만들어주는 디지털 비서의 친근한 미래를 열 수 있습니다. 또는 종이 클립 만들기와 같은 한 가지 문제를 해결하기 위해 AI에게 자유 의지를 부여하고 모든 글로벌 자원을 해당 문제에 집중시켜 그 과정에서 인류를 파괴하는 종이 클립 시나리오를 마침내 실현할 수도 있습니다.

미래는 거의 확실하게 최선의 시나리오와 최악의 시나리오 사이에 있을 것입니다. 어쨌든 많은 전문가들은 완전 자율 에이전트가 결코 발명되어서는 안 된다고 말합니다. 미래의 AI 에이전트가 지금 오퍼레이터만큼 서투르더라도 크게 걱정하지 않는다는 점을 말씀드리고 싶습니다.

 

우리 모두를 위한 AI 에이전트
당신이 좋아하든 원하지 않든, AI 기술의 다음 물결에는 컴퓨터를 사용하는 컴퓨터가 포함될 것입니다. 이미 일어나고 있는 일입니다. 예를 들어, 대규모 농업 산업에서 농부들은 이미 John Deere 트랙터의 열쇠를 밤새도록 작동할 수 있는 AI 기반 소프트웨어에 넘겨주고 있습니다. 글로벌 개발 비영리 단체인 Digital Green과 같은 다른 회사에서는 개발도상국의 농부들에게 Operator에 대한 액세스 권한을 제공하여 비용을 낮추고 작물 수확량을 향상시킬 수 있도록 하고 있습니다.

디지털 그린(Digital Green)을 지원하는 비영리 기술 액셀러레이터 Fast Forward의 공동 창립자이자 사장인 Kevin Barenblat는 “농민은 작물 사진을 찍어 벌레 때문에 작물이 제대로 작동하지 않는지 판단하거나 날씨를 확인하여 날씨와 관련된 것인지 확인할 수 있습니다.”라고 말했습니다. "상담원이 문제를 해결하려고 할 때 문제가 실제로 도움이 되는 것이 무엇인지 파악할 수 있도록 더 많은 유연성을 제공합니다."

작동 중인 AI 에이전트의 또 다른 흥미로운 예는 이 기술이 어떻게 가장 유용할 수 있는지 알려주는 꽤 지루한 예입니다. 런던의 스타트업인 Rekki는 최근 Bloomberg에 레스토랑과 공급업체가 재고 관리를 간소화할 수 있도록 훈련된 AI 에이전트에 대한 액세스를 판매한다고 말했습니다. 예를 들어 레스토랑에서는 챗봇에 사용되는 재료의 긴 목록을 제공하고 모든 것이 제 시간에 주문되도록 할 수 있습니다. 일부 회사에서는 직원을 줄이고 대신 소프트웨어 비용을 지불할 정도로 잘 작동합니다.

 

나처럼 AI에 관심이 많은 소비자에게 해결해야 할 문제를 입력하세요. 액세스 비용으로 한 달에 200달러를 지불하면 ChatGPT와 모양과 기능이 매우 유사한 사용자 친화적인 Operator 버전에 액세스할 수 있습니다. 현재 ChatGPT 웹사이트에서는 별도의 앱으로 작동하지만 OpenAI는 궁극적으로 원활한 경험을 위해 Operator를 ChatGPT에 통합할 계획입니다. Operator와의 상호 작용은 이미 ChatGPT를 사용하는 것과 매우 유사합니다. 친숙해 보이는 빈 상자에 프롬프트를 입력하여 Operator가 작업을 수행하도록 합니다. 그러면 상황이 흥미로워집니다. 운영자는 작은 브라우저 창을 열고 작업을 시작합니다. 실시간으로 시도하고 실패하는 모습을 볼 수 있습니다.

Operator가 나를 위해 성공적으로 수행한 몇 가지 일: 새 진공청소기를 사줬고, 내가 온라인으로 구입한 매트리스를 교환해 주었습니다. 그러나 두 경우 모두 나는 본질적으로 무거운 짐을 짊어졌습니다. 현재 운영자는 귀하를 대신하여 웹사이트에 로그인하거나 CAPTCHA를 해결하거나 신용카드 정보를 입력할 수 없습니다. 그래서 내가 진공청소기를 구매할 때 운영자는 제품 목록을 찾는 데까지 이르렀지만 그 이후에는 거의 모든 작업을 제가 했습니다. 고객 서비스 예에서 운영자는 올바른 양식을 찾았지만 내가 이를 작성한 다음 전체 거래가 운영자가 관할권이 없는 이메일로 이동했습니다.

 

겉보기에 무해해 보이는 이러한 작업은 바로 OpenAI가 Operator에게 지금 당장 수행하기를 원하는 것과 정확히 같습니다. 실제로 레스토랑 예약, 비행기 티켓 예약, Uber 주문과 같은 작업에 대한 프롬프트 상자 아래에 제안 사항을 제공합니다. 실제로 신용 카드를 AI에 넘겨주지 않는다고 생각한다면 Operator에게 쇼핑을 맡기는 것이 좋은 생각처럼 들립니다. 그것은 당신을 위해 가격을 비교할 것이며 그 부분에는 감독이 거의 필요하지 않습니다. 한 예로, Operator는 다이슨 진공청소기를 50달러에 판매하는 사기성 웹사이트를 신고하기도 했습니다. 하지만 사기꾼들이 AI의 약점을 알고 이를 악용하는 미래를 상상할 수도 있습니다.

현재 형태에서 Operator는 OpenAI와 Microsoft의 파트너십 덕분에 Google 또는 Bing을 사용하는 데 고통스러울 정도로 느린 방법이 됩니다. 다른 일을 하는 동안 작업을 대신 수행할 수 있지만 이전의 ChatGPT와 마찬가지로 항상 Operator의 작업을 확인해야 합니다. 주말에 테네시에 있는 엄마 댁을 방문할 때 가장 저렴한 항공편을 찾아달라고 요청했더니 예상 비용의 두 배에 해당하는 2주 일정이 반환되었습니다. 내가 오류를 설명했을 때 운영자는 다시 오류를 범했지만 더 나빴습니다.

이제 종이 클립 문제에 대해

 

Operator는 여러 면에서 신기루입니다. AI가 텍스트와 이미지를 생성할 뿐만 아니라 실제로 자율적으로 작업을 수행하여 그 과정에서 사용자의 삶을 수월하게 만들어준다는 개념 증명처럼 보입니다. 그러나 에이전트에게 더 많은 작업을 요청할수록 더 많은 대행사가 필요합니다.

이는 AI 개발의 미래에 대한 큰 수수께끼입니다. 예를 들어 운영자가 신용 카드를 너무 많이 사용하지 못하도록 도구에 가드레일을 설치하면 도구의 유용성이 제한됩니다. 결정을 내리고 독립적으로 작동할 수 있는 권한을 더 많이 부여하면 더 유용할 수도 있지만 더 위험할 수도 있습니다.

그러면 다시 클립 문제로 돌아가게 됩니다. 2003년 철학자 닉 보스트롬(Nick Bostrom)이 처음 대중화한 종이클립 시나리오는 초지능 AI에게 종이클립 제조 작업을 부여하고 이를 무제한으로 수행할 수 있는 자유를 상상합니다. 인간에게는 좋게 끝나지 않습니다. 이는 책임 있는 AI 개발이 단지 AI가 허가 없이 신용 카드를 사용하는 것을 방지하는 것만이 아니라는 점을 분명히 상기시켜 줍니다. 위험은 훨씬 더 높습니다.

코넬대학교 기술정책연구소 소장 사라 크렙스(Sarah Kreps)는 “가장 위험도가 높은 시나리오 중 하나는 생물 무기 개발을 가속화하기 위해 AI 에이전트를 배치하는 것”이라고 말했습니다. "열심하고 사악한 행위자는 이미 생물 무기를 개발할 수 있지만 AI는 장벽을 낮추고 기술 전문 지식의 필요성을 제거합니다."

 

이번 주 파리에서 글로벌 리더들이 논의한 내용이 바로 이런 것입니다. 그러나 인류의 미래에 관심이 있다면 AI 정상회담의 합의는 그다지 고무적이지 않았습니다. Vance는 AI에 대한 "비할 데 없는 R&D 투자"를 요구하고 "AI 기술을 억제하기보다는 이를 육성하는 국제 규제 체제"를 요구했습니다. 이는 안전하고 책임 있는 AI 개발을 위한 조 바이든 대통령의 계획을 취소하는 도널드 트럼프 대통령이 지난 1월 서명한 행정명령에 포함된 것과 동일한 가드레일 방지 원칙을 반영합니다.

적어도 트럼프 행정부의 경우 AI 개발의 목표는 어떤 대가를 치르더라도 성장과 지배력을 갖추는 것으로 보인다. 하지만 OpenAI를 포함해 이 기술을 개발하는 기업들이 같은 생각을 갖고 있는지는 확실하지 않습니다. 예를 들어 Operator에서 발견한 많은 제한 사항은 제작자가 부과한 것입니다. AI 에이전트의 느리게 움직이고 추측하는 특성으로 인해 유용성은 떨어지지만 접근하기 쉽고 안전해졌습니다.

 

Operator는 매우 명확하게 실험입니다. OpenAI는 최신 기능에 액세스하기 위해 매년 4자릿수 금액을 지출할 의향이 있을 만큼 AI에 대해 충분히 열정적이고 낙관적인 ChatGPT Pro 가입자를 위해 이 기능을 출시했다고 말합니다. 피드백을 바탕으로 OpenAI는 의심할 여지없이 수정되고 개선된 버전을 출시한 다음 다시 반복할 것입니다.

몇 년 안에 문제가 해결되면 AI 에이전트가 제공하는 미래에 대해 우리가 얼마나 두려워해야 하는지 알게 될 것입니다.

이 이야기의 버전은 Vox Technology 뉴스레터에도 게재되었습니다. 다음을 놓치지 않으려면 여기에서 등록하세요!