오픈소스 AI 제품 요청
AI가 창출하는 가치의 대부분은 이미 가장 많이 가진 사람들에게 흘러갑니다. 우리는 그 반대를 지원합니다. 평범한 사람의 손에 있는 기기에서 작동하는 열린, 사적인 AI, 그리고 시장이 늘 건너뛰어온 사람들을 위한 AI입니다.
하나의 신념이 이 모든 것을 관통합니다.
이 기술은 그것이 섬기는 사람들에게 속해야 하고, 그들이 이미 가진 하드웨어에서 작동해야 하며, 세상에서 가장 저렴한 휴대폰에도 닿아야 합니다. 이 목록은 두 부분으로 나뉩니다. 첫 번째는 그 사람들에게 직접 닿는 것입니다. 두 번째는 첫 번째가 신뢰받을 수 있게 만드는 기반입니다.
우리가 말하는 ‘오픈’의 의미.
프로젝트의 핵심 요소 중 적어도 하나, 즉 모델, 가중치, 코드, 데이터 또는 평가셋이 누구나 실행하고, 검사하고, 그 위에 무언가를 만들 수 있는 것이며, 바로 그 개방성이 그 제품을 더 낫게 만드는 이유입니다.
파트 1
우리는 프런티어 AI 연구소들이 보통 외면하는 공공재 성격의 제품, 그리고 현실 세계에서 실제로 쓰일 수 있는 유스케이스와 제품을 찾고 있습니다. 지금까지 좋은 도구를 가져본 적 없는 사람들을 떠올려보세요. 통신이 끊긴 응급상황에 놓인 사람, AI 기반 사기의 표적이 된 사람, 한 번도 제대로 된 튜터를 가져본 적 없는 사람들입니다.
매일 1,000명의 미국인이 병원 밖에서 심정지를 겪습니다. 뇌사는 3분 안에 시작됩니다. 구급차는 도착하는 데 8분에서 14분이 걸립니다. 사람을 살릴 수 있는 지식은 이미 존재합니다. 다만 그 지식은 그들이 닿을 수 없는 곳에 있을 뿐입니다. 우리는 네트워크가 끊긴 상황에서도 작동하는 응급 가이드를 지원하고자 합니다.
모든 응급상황에서 같은 패턴이 반복됩니다. 결과는 첫 몇 분 안에, 그 자리에 서 있는 사람이 무엇을 하느냐에 따라 결정됩니다. 치료를 받기 전에 사망한 많은 사람들은, 옆에 있던 누군가가 기도를 확보하거나 출혈을 멈추는 법을 알았다면 살아남을 수 있었습니다. 우리가 만들어온 모든 도구는 통신 신호가 있다는 것을 전제로 합니다. 전화를 걸고, 증상을 검색하고, 영상을 스트리밍합니다. 그러나 사망은 신호가 가장 약한 곳에서 집중됩니다. 농촌 지역, 재난 현장, 통신탑이 무너지는 순간입니다. 사람을 살릴 지식은 이미 존재합니다. 다만 그 지식은 그들이 닿을 수 없는 곳에 있을 뿐입니다. 이제 이 문제는 해결 가능합니다. 저가 스마트폰에서도 돌아갈 만큼 작은 모델들의 성능이 충분히 좋아졌기 때문입니다. 이 모델들은 공황 상태의 사람이 실제로 제공하는 방식으로 입력을 받습니다. 소리쳐 말한 한 문장, 상처 사진 같은 것들입니다. 그리고 상황이 변할 때마다 적응하면서 올바른 절차를 안내할 수 있습니다. 우리는 네트워크가 끊긴 상황에서도 작동하는 응급 가이드를 지원하고자 합니다. 이 도구는 반드시 기기에서 직접 실행되어야 합니다. 클라우드가 필요한 도구는 바로 그 도구가 존재해야 하는 상황에서 무용지물이 되기 때문입니다. 또한 프로토콜은 공개되어야 하며 지역별로 조정 가능해야 합니다. 인도 농촌 지역의 뱀물림은 오하이오의 심장마비와 다르기 때문입니다.
60세 이상 미국인들은 지난해 사기로 49억 달러의 피해를 보고했으며, 1인당 평균 피해액은 8만 3,000달러였습니다. 실제 피해 규모는 더 클 가능성이 높습니다. 대부분의 피해자가 수치심 때문에 신고하지 않기 때문입니다. AI는 사기를 저렴하게 만들었습니다. 완벽한 피싱, 복제된 목소리, 손주의 목소리 그대로 돈을 보내달라고 호소하는 전화가 대규모로 만들어지고, 이를 가장 알아차리기 어려운 사람들에게 집중적으로 겨냥합니다. 오늘날의 방어는 돈이 이미 사라진 뒤에야 도착합니다. 같은 기술은 피해가 일어나기 전에 앞서 막을 수도 있습니다. 휴대폰 안의 AI 앱은 전화, 문자, 링크가 도착하는 순간 이를 읽고, 누군가 클릭하기 전에 그것이 사기임을 알아차릴 수 있습니다.
우리는 기기 안에서 작동하며 “이 발신자는 당신의 은행을 사칭하고 있습니다”라고 명확히 말해주는 보호자를 지원하고자 합니다. 개방성은 어떤 폐쇄형 모델도 따라올 수 없는 강점입니다. 당신이 받는 모든 메시지를 읽는 도구라면, 그 안을 들여다볼 수 있어야 하기 때문입니다. 사기꾼들에게 무기를 쥐여준 바로 그 AI의 물결이, 이제는 전화를 받는 사람의 편에서 그들을 이길 수 있는 무기가 될 수 있습니다.
중저소득 국가의 10세 아동 70%는 간단한 이야기를 읽지 못합니다. 그들이 학교에 다니지 않아서가 아닙니다. 지친 교사 한 명이 50명의 학생을 상대하는 교실은, 바로 옆에서 적절한 순간에 올바른 질문을 던져주는 사람과는 전혀 다르기 때문입니다.
튜터가 효과적인 이유는 적응입니다. 학습자가 빠르게 나아갈 때는 더 어려운 것을 제시하고, 막힐 때는 더 부드럽게 도와줍니다. 이것이 튜터가 없는 학습자가 결코 얻지 못했던 것이며, 교육 소프트웨어가 한 번도 제대로 흉내 내지 못했던 것입니다. 수십 년 동안 교육 소프트웨어는 모든 사람에게 같은 고정 질문만을 제공했습니다. 모델은 개인화를 ‘강의 단위’에서 ‘문장 단위’로 옮깁니다. 모델은 학습자와 함께 읽고, 각 질문을 그 수준에 맞추며, 망설이는 순간 즉시 도와주고, 아직 하지 못하는 것을 추적합니다. 책 대신 돈을 대상으로 삼으면, 세상이 그 사람이 이미 알고 있을 것이라 가정했던 수학을 성인에게 가르칠 수 있습니다. 우리는 모든 학습자를 현재 위치에서 만나는 튜터를 지원하고자 합니다. 이 튜터는 공개적으로 만들어져야 하며, 읽기 수준별 팩, 난독증 친화 모드, 어떤 출판사도 지원하지 않을 현지 언어 버전을 포함해야 합니다. 이 도구는 집에서 가장 저렴한 기기에서도 작동해야 하며 무료로 작동해야 합니다. 50명짜리 교실 안의 아이에게 질문 하나당 비용을 매길 수는 없기 때문입니다. 사용량에 따라 요금이 매겨지는 튜터는, 그것을 가장 필요로 하는 사람들에게는 튜터가 아닙니다.
농부는 수확물을 자신이 닿을 수 있는 단 한 명의 구매자에게 가져가고, 그가 제시하는 가격을 받아들입니다. 더 높은 가치가 있다는 것을 증명할 방법이 없기 때문입니다. 소규모 농가는 전 세계 식량의 33% 이상을 생산하지만, 중개자에게 작물 가치의 30~60%를 잃는 경우가 흔합니다. 종종 최종 구매자가 얼마에 사는지조차 알지 못합니다.
중개자들이 악당이라는 뜻은 아닙니다. 그들은 농부가 할 수 없는 실제 일을 합니다. 품질을 평가하고, 보증하고, 구매자와 가격을 압니다. 이제 그 일은 자동화될 수 있습니다. AI 앱은 농부가 결코 접근할 수 없었던 신뢰 계층을 운영할 수 있습니다. 사진 한 장으로 농산물의 등급을 매기고, 멀리 있는 구매자가 신뢰할 수 있는 원산지 기록을 생성하며, 물량을 구매자와 매칭하고, 실시간 시장 가격과 비교해 가격을 책정하며, 농장에서 판매까지 추적할 수 있습니다. 중개자가 제공하던 모든 기능은 이제 모델이 수행할 수 있는 판단 작업입니다. 우리는 이것을 열린 방식으로 만드는 팀들을 지원하고자 합니다. 가장 뻔한 실패는 이 도구가 새로운 중개자가 되어 같은 형태의 지대를 추출하는 것입니다. 오픈 방식만이 가치와 데이터를 농부에게 남겨둘 수 있는 유일한 버전입니다. 농업은 지구상에서 가장 큰 시장 중 하나이며, 그 안에서 가장 많은 것을 잃고 있는 사람들은 가장 가난한 사람들 중 일부입니다.
그 어느 때보다 많은 노인들이 홀로 살고 있습니다. 더 길어진 수명, 줄어드는 목적의식, 옅어지는 관계, 너무 멀리 있어 안부를 자주 확인할 수 없는 자녀들. 잔인한 조건입니다. 노년의 외로움은 단지 슬픈 일이 아닙니다. 측정 가능한 신체적 해를 동반합니다. 선택지는 대부분 시설 돌봄이거나 아무것도 없는 것입니다.
달라진 점은 이제 AI 애플리케이션이 실제적이고 지속적인 관계를 맺을 수 있다는 것입니다. 매일 노인과 대화하고, 가족, 역사, 일상을 기억하는 동반자가 될 수 있습니다. 이러한 매일의 존재감은 별도의 앱들이 할 수 없었던 세 가지 일을 합니다. 외로움을 덜어주고, 실제 사람들과 연결되도록 유도하며, 사람이 사람에게 닿았을 때만 스스로를 성공으로 봅니다. 또한 목적의식을 줍니다. 그들의 기술과 경험을 도움이 필요한 누군가와 연결합니다. 그리고 지켜봅니다. 매일 대화하기 때문에 그 사람에게 정상적인 상태가 무엇인지 알 수 있고, 말이 어눌해지거나 넘어졌다는 언급 같은 경고 신호를 발견해 가족에게 알릴 수 있습니다. 우리는 이것을 열린 방식으로 만드는 팀들을 지원하고자 합니다. 이것은 한 사람이 가진 가장 민감한 데이터이며, 가족들은 그것이 팔리거나 꺼질 수 없는 것일 때만 신뢰할 것입니다. 또한 지역의 삶에 맞게 조정될 수 있어야 합니다. 가족과 기여의 의미는 세계 곳곳에서 매우 다르기 때문입니다. 운 좋게 오래 사는 사람은 모두 이곳에 도달하거나, 부모가 그곳에 도달하는 것을 지켜보게 됩니다.
13억 명이 중대한 장애를 안고 살아가며, 보조 도구가 필요한 약 10억 명은 그것을 얻지 못합니다. 가장 가난한 국가에서는 필요한 사람 중 3%만이 보조 도구에 접근할 수 있는 경우도 있습니다. 자막, 수어 번역, 스크린 리더처럼 그들에게 세상을 열어줄 도구들이 비싸고, 흩어져 있으며, 공급업체 안에 잠겨 있기 때문입니다.
이제 하나의 AI 앱이 이 모든 일을 할 수 있습니다. 화면을 보고, 설명하고, 조작할 수 있으며, 말이 나오는 순간 따라가고, 수어와 음성 사이를 오갈 수 있습니다. 과거에는 각각 별도의 비싼 제품이 필요했던 일들입니다. 우리는 사람이 그냥 집어 들고 쓰는 열린 동반자를 지원하고자 합니다. 오픈과 무료야말로 접근성을 유료 기능에서 기본값으로 바꾸기 때문입니다. 시각장애인 사용자가 화면을 읽을 권리를 위해 영원히 구독료를 내서는 안 되며, 사용량에 따라 요금이 매겨지는 도구는 바로 그것을 위해 만들어진 사람들을 가격으로 배제합니다. 개방성은 어떤 공급업체도 하지 않을 방식으로, 커뮤니티가 자신들의 언어와 수어에 맞게 도구를 조정할 수 있게 합니다.
오늘날 살아 있는 언어는 7,000개입니다. 그중 40% 이상이 소멸 위기에 처해 있습니다. 시장이 실제로 서비스하는 언어는 아마 100개 정도에 불과합니다. 마지막 유창한 화자가 세상을 떠나면, 세상을 이해하는 하나의 방식 전체가 함께 사라집니다. 이야기, 의학 지식, 식물과 계절에 관한 지식, 한 번도 글로 적히지 않았던 것들이 사라집니다. 언어를 보존하는 일은 소수의 언어학자들이 한 번에 하나의 공동체를 대상으로, 손으로 해오던 일이었습니다. 그들은 늘 충분하지 않았습니다.
그 한계가 이제 깨졌습니다. AI 앱은 공동체의 어른들과 함께 앉아 대화와 이야기를 이끌고, 그것을 살아 있는 무언가로 바꿀 수 있습니다. 선반 위의 아카이브가 아니라, 그 언어로 말하고, 다음 세대에게 가르치며, 자신이 배운 이야기들에 대해 질문에 답하는 모델이 될 수 있습니다. 어려운 것은 기록이 아니었습니다. 어려운 것은 종합이었습니다. 조각들을 응답할 수 있는 무언가로 바꾸는 일이었습니다. 우리는 공동체가 이를 임대하는 것이 아니라 소유할 수 있도록 만드는 팀들을 지원하고자 합니다. 포크할 수 있고, 로컬에서 호스팅하고, 지역적으로 거버넌스할 수 있는 애플리케이션이어야 합니다. 언어는 그것을 팔거나, 잠그거나, 떠나버릴 수 있는 회사의 소유가 되어서는 안 됩니다. 언어는 세상을 바라보는 방식의 마지막 사본입니다. 지금도 하나씩 문밖으로 걸어나가고 있습니다.
온라인 딥페이크 영상은 5년 동안 500% 이상 증가했고, 2024년에는 5분마다 어디선가 새로운 딥페이크 공격이 시도되었습니다. 실제 사람의 가짜 영상, 일어나지 않은 이야기, 음절 하나까지 아들의 목소리와 같은 음성. 이제 이 모든 것이 거의 비용 없이 만들어지고, 진실이 깨어나기도 전에 수백만 명에게 도달합니다. 가장 큰 피해를 입는 사람들은 확인할 시간이 가장 적은 사람들입니다. 교대 근무 사이에 스크롤하고, 가족에게 전달하는 사람들입니다.
가짜를 만드는 바로 그 모델들이 그것을 잡아낼 수도 있습니다. 당신의 휴대폰에서 실행되는 AI 애플리케이션은 조작된 이미지를 표시하고, 주장의 출처를 추적하며, 당신이 믿거나 전달하기 몇 초 전에 그 주장이 실제로 무엇에 기반하고 있는지 알려줄 수 있습니다. 우리는 오직 당신에게만 응답하는 열린 마음의 방어자를 지원하고자 합니다. 플랫폼이 소유한 진실 필터는 이름만 그럴듯한 검열일 뿐이기 때문입니다. 신뢰할 수 있는 유일한 검증자는 누구나 열어보고 검사할 수 있는 것입니다. 일어나지 않은 것들의 홍수는 이미 와 있습니다. 사람들이 스스로 손에 쥘 수 있는 방어 수단을 갖지 못한다면, 무엇이 진짜인지 구별하는 능력을 잃게 될 것입니다.
자선단체에 1달러를 기부하면, 그중 25센트 이상이 누군가에게 도달하기 전에 운영비로 사라질 수 있습니다. 운영이 가장 나쁜 곳들은 모금액의 10분의 1도 전달하지 못합니다. 나머지는 인간의 판단에 달려 있고, 그 안에는 편견, 호의, 절도가 스며듭니다. 도움이 가장 필요한 사람들은 누가 도움을 받는지에 대해 가장 적은 발언권을 가집니다.
AI는 이 두 가지를 모두 바꿀 수 있습니다. 대규모로 필요를 평가하고, 모든 사례를 공개된 동일한 규칙에 따라 처리하며, 거의 비용 없이 자금을 이동시킬 수 있습니다. 모든 결정과 거래는 누구나 확인할 수 있도록 공개된 상태로 남습니다. 우리는 어떤 자선단체든 사용할 수 있는 열린 프레임워크를 지원하고자 합니다. 문지기의 기분이 아니라 규칙에 따라 자금이 집행되고, 아무것도 숨을 수 없는 공개 장부가 있으며, 운영비는 0에 가까워지는 구조입니다. 사람들은 규칙을 만들고 그 규칙에 책임집니다. 분배는 공정하고 검증 가능해집니다. 이것은 오픈일 때만 작동합니다. 핵심 약속이 검증 가능성이기 때문입니다. 검사할 수 없는 구호는 오래된 편견을 더 빠르게 숨기는 방법일 뿐입니다. 기부자는 자신의 1달러가 어떤 사람에게 도움을 주었는지 끝까지 추적할 수 있어야 합니다. 처음으로, 그것이 가능해질 수 있습니다.
파트 2
위의 애플리케이션들은 모두 프라이버시를 지키면서도 개방적이어야 합니다. 하지만 그 아래 계층 없이는 어떤 것도 유지될 수 없습니다. 사람들이 실제로 소유하는 어시스턴트, 모델이 주장하는 그대로임을 증명하는 체계, 에이전트가 소유자에게 등을 돌리지 못하게 하는 레일이 필요합니다. 이것은 화려하지 않은 절반입니다. 그러나 나머지가 신뢰받을 수 있는지 여부를 결정하는 절반이기도 합니다.
이제 매주 9억 명의 사람들이 자신의 삶을 AI에 쏟아봇습니다. 두려움, 계획, 누구에게도 말하지 못할 것들까지. 그리고 그 모든 말은 회사의 서버에 도착합니다. 한 사람의 삶에서 가장 친밀한 소프트웨어가, 정작 그 사람이 가장 적게 소유한 소프트웨어가 되었습니다. 그것은 일부러 그들을 잊고, 그것을 훈련시킨 사람에게 응답하며, 한 사람의 내면 기록을 다른 누군가의 자산으로 바꿛니다. 올해 전까지는 이것이 유일한 선택지였습니다.
이제 의미 있는 수준의 모델이 당신 주머니 속 휴대폰 안에 들어갑니다. 그 주변의 음성, 기억, 도구 사용 능력도 따라잡았습니다. 이 모델은 새벽 2시에 당신이 속삭인 말을 아침에도 기억하고, 오늘의 걱정을 1년 전의 걱정과 연결하며, 하루 종일 당신을 위해 행동할 수 있습니다. 우리는 열린, 로컬에서 작동하는 “her”를 지원하고자 합니다. 그리고 그것은 오픈일 때만 작동합니다. 내부를 들여다볼 수 없는 어시스턴트는 모순입니다. 전체 약속이 당신에게 응답한다는 것이기 때문입니다. 로컬은 기능이 아니라 핵심입니다. 사적인 부분이 기기를 떠나는 순간 그것은 당신의 것이 아니게 됩니다. 그것이 누군가의 서버에 존재하는 순간, 당신은 자신의 내면 생활에 대해 영원히 임대료를 내는 것입니다. 나중에 그들이 어떤 가격을 정하든 말입니다.
에이전트는 곳 당신의 여행을 예약하고, 청구서를 지불하고, 당신의 이름으로 서명하게 될 것입니다. 하지만 상대방은 그것이 정말 당신의 에이전트인지, 또는 당신이 허용한 일만 하고 있는지 알 수 없습니다. 우리는 웹사이트에 대해서는 인증서로, 키에 대해서는 투명성 로그로 이 문제를 해결했습니다. 하지만 이제 우리를 대신해 행동하는 에이전트에 대해서는 아직 아무것도 없습니다.
에이전트가 실제 돈을 움직이고 실제 도구를 호출하기 시작하는 순간, 사칭과 통제되지 않는 권한이 문제의 전부가 됩니다. 그리고 이제 그 해결책을 만들 수 있습니다. 서명된 행동, 에이전트가 접근할 수 있는 범위를 정확히 제한한 위임, 누구나 확인할 수 있는 공개 로그입니다. 이것은 반드시 오픈이어야 합니다. 전체 생태계가 의존하는 신원 체계가 한 회사가 소유한 블랙박스가 되어서는 안 되기 때문입니다. 이 계층에서의 신뢰는 누구나 검사할 수 있어야 하며, 그렇지 않다면 아무 가치도 없습니다. 우리는 이 기반을 놓는 팀을 지원하고자 합니다.
우리는 곳 에이전트에게 열쇠를 쥐여주게 됩니다. 우리의 파일, 돈, 계정, 그리고 아무도 보지 않는 동안 세상에서 행동할 권한입니다. 무엇이든 할 수 있는 에이전트는, 무엇이든 하도록 속을 수 있는 에이전트이기도 합니다. 이는 우리가 지금까지 만든 가장 큰 공격 표면이 됩니다.
새로운 점은, 에이전트가 만들어지는 속도만큼 빠르게 제약 장치도 만들 수 있다는 것입니다. 에이전트는 샌드박스 안에서 실행될 수 있습니다. 접근할 수 있는 대상을 단단한 벽으로 제한하고, 권한은 눈앞의 작업에 필요한 범위로만 제한되며, 접근 범위는 정확히 필요한 만큼으로 줄어듭니다. 우리는 에이전트가 행동할 수는 있지만 우리를 배신할 수는 없도록 만드는, 열린 샌드박싱과 능력 제어 계층을 지원하고자 합니다. 세상에 풀려난 무언가를 제어하는 레일은 한 회사 제품 안의 숨겨진 설정이 아니라, 모두가 검사할 수 있는 것이어야 하기 때문입니다.
이제 웹페이지에 숨겨진 문장 하나가 누군가의 AI에게 계좌를 비우라고 지시할 수 있고, 에이전트는 주인의 지시처럼 그것을 따를 수 있습니다. 에이전트를 출시하는 대부분의 팀은 그런 공격을 스스로 시도해본 적이 없습니다. 10년 전 우리는 폼 필드에 의미 없는 문자열을 던져 무엇이 깨지는지 확인했습니다. 에이전트 시대에는 같은 본능이 필요합니다. 프롬프트 인젝션, 오염된 도구 출력, 적대적 페이지를 겨냥한 본능입니다. 하지만 그 본능은 아직 충분하지 않습니다. 새로운 점은 레드티밍 에이전트가 실제 공격자처럼 이러한 공격을 반복적으로 실행할 수 있다는 것입니다. 단 한 명의 사용자에게 노출되기 전에, 빌드 파이프라인 안에서 계속 실행할 수 있습니다.
오픈은 이것을 단순한 제품이 아니라 공공재로 만듭니다. 한 팀이 발견한 취약점은 모두의 패치된 방어가 됩니다. 각 팀이 혼자 피 흘리는 대신, 전체 생태계가 함께 단단해집니다. 우리는 이것을 가능하게 하는 플랫폼을 지원하고자 합니다. 우리는 에이전트가 어떻게 깨지는지 배우는 속도보다 더 빠르게, 에이전트를 우리의 돈과 받은편지함에 연결하고 있습니다.
오픈 AI는 신뢰 위에서 작동합니다. 당신은 낯선 사람의 모델을 다운로드하고 그 위에 무언가를 만듭니다. 하지만 모델은 숫자로 이루어진 블랙박스입니다. 오염된 모델은 실패하는 그날까지 깨끗한 모델과 똑같아 보입니다. 변조된 모델 하나가 프로젝트에서 프로젝트로 전달되며, 숨겨진 백도어를 한꺼번에 수천 개의 제품에 퍼뜨릴 수 있습니다. 위협은 새롭고 방어도 새로워야 합니다. 이제 모델과 데이터셋은 누군가 그 위에 무언가를 만들기 전에, 백신 프로그램이 파일을 검사하듯 오염, 숨겨진 트리거, 변조의 흔적을 스캔할 수 있습니다.
우리는 모델 생태계를 위한 열린 면역 시스템을 지원하고자 합니다. 존재해서는 안 되는 것을 검사하고, 새로운 시그니처를 모두와 공유하는 도구입니다. 이를 통해 하나의 나쁜 모델이 조용히 나머지를 감염시키지 못하게 할 수 있습니다. 이것은 반드시 오픈이어야 합니다. 전 세계가 의존하는 스캐너 자체가 믿음으로 받아들여야 하는 것이 되어서는 안 되기 때문입니다. 오픈 AI는 모두가 모두의 것 위에 만들면서 확산됩니다. 그것이 가장 큰 강점이며, 이것이 없다면 동시에 단일 실패 지점이 됩니다.
우리는 인용문의 출처를 추적할 수 있고, 통조림 식품의 라벨을 읽을 수 있습니다. 그러나 이제 우리의 가장 민감한 질문에 답하는 모델은 아무 기록 없이 도착합니다. 누가 훈련했는지, 어떤 데이터로 훈련했는지, 그 과정에서 무엇이 바뀌었는지에 대한 기록이 없습니다. 우리는 우유 한 팩보다도 더 큰 맹목적 신뢰를 가장 강력한 도구에 부여하고 있습니다. 이 격차는 닫힐 수 있습니다. 모델의 전체 역사, 기원, 훈련 데이터, 그 이후의 모든 변경 사항은 서명되고 변조 여부가 드러나도록 만들 수 있습니다. 그렇게 되면 모델을 다운로드하는 것은 더 이상 공급망 도박이 아니며, 실제로 무엇을 실행하고 있는지 알 수 있게 됩니다.
우리는 모델을 위한 열린 출처 증명과 서명 체계를 지원하고자 합니다. 훈련 실행부터 다운로드까지 이어지는 관리 연쇄입니다. 모델이 무엇인지는 웹페이지의 주장이어서는 안 되며, 누구나 검증할 수 있는 것이어야 하기 때문입니다. 오픈은 그 기록 자체를 신뢰할 수 있게 만들며, 위조 가능한 또 하나의 라벨에 그치지 않게 합니다. 우리는 곳 우리가 훈련하지 않은 모델 위에서 세상을 운영하게 될 것입니다. 최소한 우리가 요구할 수 있는 것은 그것들이 어디서 왔는지 아는 것입니다.
AI가 당신의 대출을 거절하거나, 의료 스캔을 읽거나, 당신의 이력서를 후보군에서 제외할 때, 사람들은 “모델이 결정했다”고 말합니다. 그리고 당신은 그것을 믿어야 합니다. 실제로 어떤 모델이 실행되었는지, 그들이 홍보한 신중한 모델이 실제로 사용된 모델인지 알 수 없습니다. 그 믿음은 이제 유일한 선택지가 아닙니다. 이제 출력이 특정 모델과 주장된 정확한 코드에서 나왔다는 암호학적 증명을 생성할 수 있습니다. 누구도 몰래 바꿀 수 없는 하드웨어에서 실행되었다는, 위조할 수 없는 영수증입니다.
우리는 열린 검증 가능한 추론 계층을 지원하고자 합니다. 무엇이 실제로 실행되었는지 누구나 확인할 수 있게 하는 증명 계층입니다. AI가 한 사람의 인생을 바꿀 수 있는 결정으로 들어갈수록, 운영자의 말만으로는 충분하지 않습니다. 누구나 확인할 수 있는 증명은 누구도 확인할 수 없는 약속보다 낫습니다. 곳 한 사람에 대한 가장 큰 결정들이 모델에 의해 내려질 것입니다. 우리가 그것들을 감사할 수 있을지, 아니면 그저 믿어야 할지는 지금 결정되고 있습니다.
소수의 연구소가 모든 주요 AI가 어떻게 생각할지 결정합니다. 무엇을 말할지, 무엇을 말하지 않을지, 어떤 선을 지킬지 말입니다. 수십억 명은 그것이 자신의 삶, 신념, 문화에 맞든 맞지 않든 그 하나의 설정을 물려받습니다. 개인은 자신의 가치를 반영하도록 모델을 재훈련할 수 없습니다. 그 설정은 이제 고정되어 있지 않습니다. 모델은 누군가가 무엇을 가치 있게 여기는지에 대한 평범한 설명을 받아들이고, 재훈련 없이도 실제로 답변 방식을 바꿀 수 있습니다. 몇 가지 질문을 통해 생성된 휴대 가능한 파일, 즉 시스템 프롬프트나 스킬을 어떤 AI에든 붙일 수 있고, 당신이 변할 때마다 수정할 수 있습니다.
이것은 반드시 오픈이어야 합니다. 누구나 그 파일이 정확히 무엇을 하는지 읽을 수 있어야 하며, 그것이 장막 뒤의 누군가가 아니라 자신에게 응답한다는 것을 신뢰할 수 있어야 하기 때문입니다. 우리는 이것을 가능하게 하는 스킬을 지원하고자 합니다. 인류 역사상 가장 많이 사용될 도구에, 그것을 만든 소수의 가치관 하나만이 새겨져 있어서는 안 됩니다.
병원, 학교, 마을의 수도 시스템은 은행과 같은 도구로 공격받습니다. 하지만 취약점을 먼저 찾아낼 인재를 감당할 수 있는 곳은 은행뿐입니다. 나머지는 눈먼 상태로 시스템을 배포하고, 침해를 당한 날에야 노출되어 있었다는 사실을 알게 됩니다. 한편 일부 추산에 따르면 사이버범죄는 전 세계에 연간 10조 달러 이상의 비용을 초래할 전망입니다. 그 격차는 빠르게 좁혀지고 있습니다. AI 에이전트는 이제 시스템을 탐색하고, 취약점을 연결하며, 어떤 인간 팀도 따라갈 수 없는 속도로 공격자처럼 사고할 수 있습니다.
우리는 소유자가 자신의 시스템에 허가를 받아 사용할 수 있는 공격적 에이전트의 열린 공공재를 지원하고자 합니다. 쉬지 않고 테스트되며, 모든 기법이 공유 저장소로 되돌아오는 구조입니다. 오픈은 이것을 또 하나의 잠긴 도구가 아니라 공공재로 만듭니다. 에이전트는 신뢰받기 전에 감사될 수 있고, 방어는 열린 공간에서 복리로 축적됩니다. 처음으로 방어하는 쪽이 공격하는 쪽보다 더 빠르게 복리로 강해질 수 있습니다.
오픈 AI의 자유는 그 아래의 하드웨어가 자유로운 만큼만 가능합니다. 그리고 지금 그 하드웨어는 언제든 회수될 수 있습니다. 클라우드는 계정을 정지할 수 있고, 회사는 모델을 철회할 수 있으며, 정부는 서비스를 중단하라고 명령할 수 있고, 당신이 의존하는 순간 가격은 올라갈 수 있습니다. 수백만 명이 의존하던 도구가 하룻밤 사이에 사라지거나 감당할 수 없게 됩니다. 종종 위기가 닥쳐 그것이 가장 중요한 순간에 말입니다. 그 의존은 자연의 법칙이 아닙니다. 이제 모델은 어떤 단일 클라우드, 회사, 국가도 꺼버릴 수 없는 탈중앙화 컴퓨트 위에서 실행될 수 있습니다. 네트워크에 공유된 파일이 하나의 기계가 사라져도 살아남는 것처럼 말입니다.
우리는 오픈 AI를 위한 검열 저항적 백본을 지원하고자 합니다. 강력한 누군가가 그것을 내리려 할 때도 계속 작동하는 컴퓨트와 배포 인프라입니다. 접근이 마음대로 차단될 수 있다면 모델을 실행할 자유는 아무 의미가 없기 때문입니다. 누구도 닿을 수 있는 곳에 전원 스위치가 없는 것은 오직 열린 분산 네트워크뿐입니다. 사회가 의존하는 AI는 그것을 빼앗을 수 있는 자의 소유가 되어서는 안 됩니다. 결국 회복탄력성은 주권의 또 다른 이름입니다.