1년 후, AI 코드 서명자는 결정에 만족하지만 더 많은 회사를 원합니다.

캐나다가 인공 지능에 대한 자발적인 행동 강령을 발표한 지 1년 후, 이에 서명한 기술 조직은 그 결정을 후회하지 않지만 더 많은 회사를 신경 쓰지 않을 것이라고 말했습니다.

서명자들 사이에서 가장 화제가 되었던 토론토 AI 회사인 Cohere는 "단순히 영향을 미치는지 확인하는 것 외에 다른 이유가 없다면 코드에 "모든 사람이 참여하는 것이 필수적"이라고 생각합니다. 당신이 업계에서 갖고 싶어하는 것입니다.”

"물론 우리는 더 많은 사람을 원합니다."라고 회사의 법률 담당 이사인 Kosta Starostin이 말했습니다.

"캐나다 동료 회사들이 가입하지 않는 것은 실망스러운 일입니다. 하지만 물론 그들 나름의 이유가 있고 그것은 전적으로 그들에게 달려 있습니다."

이 규정은 지난 9월 연방 정부가 AI 사용에 대한 보호책을 마련하고 최종 법안의 전조 역할을 하기 위한 수단으로 발표했습니다. 여기에는 AI 도구에 위험 완화 조치를 적용하고, 적대적 테스트를 사용하여 해당 시스템의 취약점을 찾아내고, 기술로 인해 발생하는 모든 피해를 추적하겠다는 약속이 포함되었습니다.

BlackBerry 및 OpenText를 포함한 약 12개의 캐나다 기술 회사가 출시일까지 서명했습니다. 12월에 8개가 더 합류했고, 5월에는 8개가 더 합류했습니다.

 

현재 총 30명에 달하는 그룹의 많은 사람들은 중요성이 커지고 있는 문제에 관해 유명 인사 및 기술 거물급 기업들과 협력하여 지난 한 해를 보내는 데 만족했다고 말하지만, 그들은 또한 더 많을수록 더 즐겁다고 믿습니다.

스타로스틴은 회사들이 코드를 회피하기 위해 언급한 구체적인 이유에 대해 언급을 거부했지만 저항자 중 일부는 기술 커뮤니티에서 가장 유명한 이름이었습니다.

오타와에 본사를 둔 거대 전자상거래 업체 쇼피파이(Shopify Inc.)의 창립자이자 CEO인 토비 뤼트케(Tobi Lütke)는 국가에 더 이상 "심판"이 필요하지 않고 대신 사람들이 구축하도록 장려해야 한다고 느끼기 때문에 이 코드를 지지하지 않을 것이라고 말했습니다. 캐나다에 있는 회사들.

Mark Doble도 코드에 대해 불만을 갖고 있었습니다.

Ai 기반 도구를 개발하는 토론토 회사인 Alexi의 CEO는 "처음에는 상당히 회의적이었습니다. 그리고 세부 사항을 살펴보니 이미 존재하는 것에 실제로 의미가 있거나 추가되는 것은 없는 것 같습니다."라고 말했습니다. 법률 부문.

그는 캐나다의 현재 고용, 인권, 개인 정보 보호 및 경쟁법이 AI로 인해 발생할 수 있는 대부분의 문제를 다루고 있다고 생각하며 기술이 국가에 "해당 규정을 재평가, 재확립 또는 추가"하도록 요구해서는 안 된다고 말했습니다.

 

결과적으로 그는 코드에 "성능이 뛰어나다"는 것과 "과잉"이라는 라벨을 붙였습니다.

그러나 François-Philippe Champagne 산업 장관의 대변인 Audrey Champoux는 정부가 이 규정을 "기업이 책임 있는 개발의 중요성을 존중하도록 보장하는 중요한 첫 단계"로 보고 있다고 말했습니다.

그녀는 9월 11일 이메일에서 “AI 생태계의 주요 참여자들이 계속해서 코드 서명에 관심을 표명하고 있으며 우리는 곧 또 다른 서명자를 발표할 준비가 되어 있을 것”이라고 썼습니다.

"우리는 AI 시스템을 개발하고 배포하는 캐나다 생태계의 모든 기업이 이미 안전하고 책임감 있는 방식으로 운영하기로 약속한 동료들과 합류할 것을 권장합니다."

CGI Inc.의 분석, AI 및 기계 학습 부문 부사장인 Diane Gutiw는 “우리 모두가 동일한 프레임워크에서 작업할 수 있도록” 더 많은 가입을 환영한다고 말했습니다.

몬트리올에 본사를 둔 기술 컨설팅 회사는 CGI가 오랫동안 AI 사용이 투명하고 데이터를 보호하며 안전하고 신뢰할 수 있음을 보장하기 위해 고안된 자체 원칙을 사용해 왔기 때문에 코드 서명을 생각할 필요도 없는 것으로 여겼습니다.

 

Gutiw는 코드의 원칙을 검토했을 때 CGI의 자체 원칙과 많은 부분이 겹치는 것을 발견하여 회사가 "매우 편안한 서명"이라고 말했습니다.

Cohere에서 코드를 지원하려는 동기 중 일부는 코드 이전에 "매우 빠르게 움직이는" AI 주변의 "모호한 환경"에서 나왔습니다.

OpenAI는 AI 챗봇인 ChatGPT를 전 세계에 출시하여 해당 분야의 혁신 경쟁을 촉발시켰고 브랜드가 이를 실험하기 시작하면서 엄청난 투자를 촉발시켰습니다.

동시에 제프리 힌튼(Geoffrey Hinton)과 같은 AI 전문가들은 기술의 발전이 편견과 차별을 악화시키고 실업을 야기하며 심지어 인류의 종말을 초래할 수도 있다고 경고했습니다.

Cohere의 Starostin은 "다른 정부의 우선순위가 무엇인지 우리나 다른 누구에게도 명확하지 않았습니다."라고 말했습니다.

정부가 코드를 통합하자 그는 그것이 국가가 나아갈 길을 "결정화"했다고 느꼈고 기업들이 인공지능 및 데이터법이 하원을 통과하여 통과되기를 기다리는 동안 의지할 수 있는 프레임워크를 제공했습니다. 내년부터 시행될 듯.

 

또한 기업에 지침을 제공하는 유럽 연합의 AI 협약은 기업이 고위험으로 분류될 가능성이 있는 AI 시스템을 식별하고 윤리적이고 책임감 있는 개발을 보장하는 데 동의하도록 요구합니다.

Google, Microsoft, Adobe 및 Cisco를 포함하여 100개 이상의 서명자가 있는 EU 협정에는 캐나다의 코드보다 훨씬 많은 회원이 있지만 CGI, Cohere, IBM, Kyndryl, Lenovo, Mastercard 및 Salesforce를 포함한 일부 회사는 두 가지 모두에 서명했습니다.

세일즈포스는 이번 합의를 통해 기업들이 AI를 통해 안전하고 윤리적으로 무엇을 할 수 있는지에 대한 명확한 아이디어를 제공했기 때문에 두 코드 모두 "정상을 향한 선순환 경쟁"을 촉발했다고 말했습니다.

예를 들어 세일즈포스(Salesforce)는 기업이 취약점을 발견하기 위해 시스템에 대한 공격을 시뮬레이션할 때 항상 적대적 테스트를 사용해 왔지만 코드에 서명함으로써 그러한 노력을 강화했다고 회사의 최고 윤리 및 인도적 사용 책임자인 폴라 골드만(Paula Goldman)이 말했습니다.

“이와 같은 약속을 하고 커뮤니티의 일원이 되면 결국 발전을 가속화할 수 있는 훌륭한 기회가 됩니다.”라고 그녀는 말했습니다.