Mark Zuckerberg가 Meta에게 가장 발전된 AI 모델을 제공하도록 한 이유

아래에 출원:

기술 세계를 분열시키는 AI 논쟁에 대해 설명합니다.

지난 주 Meta는 AI 세계에서 판도를 바꾸는 움직임을 보였습니다.

Google 및 OpenAI와 같은 다른 주요 AI 회사가 비밀 소스를 철저히 지키고 있는 가운데 Meta는 혁신적인 새로운 AI 대형 언어 모델인 Llama 2를 구동하는 코드를 무료로 제공하기로 결정했습니다. 이는 이제 다른 회사가 사용할 수 있음을 의미합니다. 일부 기술 전문가들은 자체 맞춤형 챗봇을 구축할 수 있는 기능 면에서 ChatGPT와 비슷하다고 말하는 Meta의 Llama 2 모델을 사용하고 있습니다.

Llama 2는 역대 가장 빠르게 성장하는 앱 중 하나로 기록을 깨뜨린 ChatGPT의 지배력에 도전할 수 있습니다. 그러나 더 중요한 것은 AI의 오픈 소스 특성으로 인해 누가 AI를 제어해야 하는지, AI를 안전하게 만들 수 있는지에 대한 중요한 윤리적 논쟁에 새로운 긴급성이 추가된다는 것입니다.

AI가 더욱 발전하고 잠재적으로 더 위험해짐에 따라 코드가 비밀로 유지되어 소수 회사의 직원에게만 제한되는 것이 사회에 더 좋습니까, 아니면 더 많은 사람들이 사용할 수 있도록 대중과 공유해야 합니까? 혁신적인 기술을 형성하는 데 참여하고 계시나요?

Meta의 Llama 2 발표에서 Mark Zuckerberg는 Microsoft CEO Satya Nadella와 함께 웃고 있는 자신의 Instagram을 게시하여 출시에 대한 두 회사의 파트너십을 발표했습니다. Zuckerberg는 또한 AI 모델을 "오픈 소스"로 만드는 것이 더 나은 이유에 대해 설명했습니다. 이는 기술의 기본 코드를 누구나 사용할 수 있도록 만드는 것을 의미합니다.

Zuckerberg는 별도의 Facebook 게시물에서 “오픈 소스는 더 많은 개발자가 새로운 기술을 구축할 수 있게 해주기 때문에 혁신을 주도합니다.”라고 썼습니다. "소프트웨어가 공개되면 더 많은 사람들이 이를 면밀히 조사하여 잠재적인 문제를 식별하고 해결할 수 있기 때문에 안전과 보안도 향상됩니다."

이러한 움직임은 많은 AI 개발자, 연구원 및 학자들로부터 환영받고 있으며, 그렇지 않으면 생성하는 데 엄청나게 많은 비용이 소요될 새로운 도구나 연구 시스템을 구축할 수 있는 전례 없는 접근 권한을 제공하게 될 것이라고 말했습니다. ChatGPT를 지원하는 것과 같은 최첨단 대규모 언어 모델을 만들고 유지하는 데 수천만 달러의 비용이 들 수 있습니다.

Meta와 이번 출시에 협력한 오픈 소스 AI 플랫폼 Hugging Face의 연구 책임자인 Nazneen Rajani는 "나는 어떤 종류의 진전이 일어날 수 있는지에 대해 준비하고 있습니다."라고 말했습니다. Rajani는 Llama 2가 처음 출시되었을 때의 기능을 평가하는 게시물을 Twitter에 작성하고 Vox에 "우리는 GPT-4와 같은 모델을 구축하는 데 실제로 필요한 것이 무엇인지에 대해 더 많은 비밀 요소를 밝힐 수 있을 것입니다."라고 말했습니다.

그러나 오픈소스 AI에는 큰 위험이 따른다. Microsoft가 지원하는 OpenAI 및 Google을 포함하여 이 분야의 가장 큰 기업 중 일부는 이러한 기술의 심각한 위험으로 인해 AI 시스템의 공개 범위를 제한해 왔습니다.

일부 기술자들은 AI가 인간을 능가하여 생물학적 슈퍼 무기를 출시하거나 우리가 완전히 상상할 수 없는 방식으로 다른 혼란을 야기하는 등 해를 입힐 수 있는 가상의 종말 시나리오에 대해 점점 더 우려하고 있습니다. OpenAI의 공동 창업자인 Ilya Sutskever는 지난 2월 The Verge와의 인터뷰에서 AI가 언젠가 인간만큼 지능적이 되어 일부 사람들이 말하는 수준에 도달할 수 있기 때문에 과거에 모델에 대한 세부 정보를 더 공개적으로 공유했을 때 그의 회사가 "완전히 틀렸다"고 말했습니다. AGI나 인공 일반 지능을 대중과 공유하는 것은 현명하지 못할 것입니다.

“우리처럼 AI(AGI)가 어느 시점에는 믿을 수 없을 정도로 극도로 강력해질 것이라고 믿는다면 오픈 소스를 제공하는 것은 말이 되지 않습니다. 그것은 나쁜 생각이다”라고 Sutskever는 당시 말했다.

실제 인류를 파괴할 수 있는 AI와는 거리가 멀지만, 오픈 소스 커뮤니티의 AI 도구가 다른 방식으로 오용되는 것을 이미 목격했습니다. 예를 들어, Meta가 2월에 연구용으로만 첫 번째 Llama 모델을 출시한 직후, 이 모델은 모든 온라인 메시지 게시판 4Chan에 유출되었으며, 그곳에서 인종 비방과 같은 혐오스러운 콘텐츠를 뿜어내는 챗봇을 만드는 데 사용되었습니다. , 노골적인 폭력 장면.