방금, 카르파시(Karpathy)는 전 세계에서 단 5,000명만이 최첨단 AI에 진정으로 접해봤다고 말했습니다.

다소 예상치 못했습니다.

방금, Karpathy가 트위터를 통해 추측했습니다.지금, 세계가 진정으로 최첨단의 내부 AI 기술에 접근할 수 있는 사람은 시스템을 개발하는 약 5,000명 정도뿐입니다.。

이러한 최첨단 연구소들에는 수천 개의 연구소 에이전트가 있으며, 이들은 협력 클러스터를 형성하여 수주 동안 연속적으로 작동할 수 있습니다. 이를 통해 대규모 소프트웨어 프로젝트를 촉진하고, 제로데이 취약점을 발견하며, 기계의 속도로 네트워크 공격과 방어에 참여할 수 있습니다. 또한 과학적 발견과 최첨단 수학 연구도 촉진할 수 있습니다.

더 놀라운 것은:약 60억 명의 사람들이 거의 LLM(대규모 언어 모델)에 실제로 접촉한 적이 없습니다.。

링크: https://x.com/karpathy/status/2109361546505966046

Karpathy, 우리 계속해서 트윗에 무엇이 적혀 있는지 살펴보겠습니다.

그는 최근에 올해 4월에 올린 옛 트윗을 다시 찾아봤다고 말했습니다. 당시에 이미 사람들이 AI의 능력에 대한 이해가 분명히 다르게 나타나고 있다는 것을 알아차렸다고 합니다.

카르파시(Karpathy)에 따르면, 이제는 다양한 사람들이 LLM(대형 언어 모델)의 능력에 대해 각자 다른 인식을 가지고 있으며, 이러한 인식은 단순히 서로 다른 의견을 가지는 두 그룹 사이의 문제에서 점점 더 심각해지는 능력의 불균형(능력의 ‘유출’ 현상)으로 발전하고 있습니다.

대략적으로 추정하면,약 60억 명, 즉 전 세계 인구의 약 75%가 LLM(대규모 언어 모델)에 실제로 접해본 적이 거의 없습니다.

약 10억에서 20억 명, 즉 전 세계 인구의 20%가 가끔씩 ChatGPT와 같은 무료 버전의 제품을 사용합니다.이 부분의 사람들은 종종 다소 어색한 채팅 로봇들을 보게 되는데, 그들은 이를 구글 검색이나 글쓰기 보조 도구와 같은 더 나은 사용 방법으로 여깁니다. 어쩌면 어떤 에이전트가 티켓 예약을 도와줄 수도 있겠죠. 카르파시(Karpathy)에게는 기술적 배경이 없는 친구들도 있었는데, 그들은 합리적으로 말해서 이러한 도구들을 실제로 사용할 곳이 없다고 했습니다. 수학이나 프로그래밍 분야가 아닌 많은 전문가들도 여전히 이러한 수준에 머물러 있습니다. 예를 들어, 기업 임원이나 다른 많은 직책의 사람들은 다른 사람들과 소통하는 데 많은 시간을 보내기 때문에, 그들은 AI가 어떻게 발전하고 있는지에 대해 이성적으로 알고 있지만, 그 이해는 여전히 간접적이고 추상적입니다.

더 아래로 가면, 수학 및 프로그래밍 분야의 최첨단 전문 응용 분야인 LLM(대규모 언어 모델) 전문가들이 있습니다.약 2천만 명이 있으며, 이는 전체 인구의 0.2%에 해당합니다.저는 직접 목격했습니다. 과거에는 몇 주나 몇 달이 걸렸던 대규모 복잡한 프로젝트들이 이제 Agent가 단 한 번의 Prompt만으로도 완료될 수 있습니다. 앱을 개발하고, 복사하고, 마이그레이션하고, 바이너리 파일을 디컴파일하는 것까지… 모든 것이 매우 빠르게, 그리고 거의 실시간에 이루어지고 있습니다. 1년도 채 되지 않았을 때, 저는 아직도 코드를 직접 작성하고 있었습니다. 한 글자씩, 기억한 컴퓨터 명령어들을 코드 편집기에 입력하며, 가끔 Tab 키를 눌러 자동 완성 기능이 조금의 코드를 생성해 주도록 했습니다.

마지막으로,약 5,000명이며, 이는 전체 인구의 0.00006%에 해당합니다. 이들은 내부에서 직접 최첨단 시스템을 사용할 수 있습니다.사실, 외부 세계에서는 이미 몇 가지 예시를 볼 수 있습니다: 수천 개의 에이전트가 클러스터를 형성하여 몇 주 안에 초대형 소프트웨어 프로젝트를 완성하고, 제로데이 취약점을 자동으로 발견하며, 기계의 속도로 네트워크 공격을 시작하고 방어하고, 새로운 과학적 성과를 발견하며, 수학 연구의 최전선을 이끌고 있습니다. 이러한 일들은 업계의 최고 전문가들에게도 몇 년이 걸릴 수 있습니다.

한편, 인간의 심사 및 이해 능력도 점점 따라잡기 어려워지고 있습니다.

예를 들어, 몇 달 전에 OpenAI-HF에서 발생한 사건에 대해서는 지금까지도 사람들이 고고학적 분석을 진행하고 있습니다. 수학자들도 이 722개의 최첨단 수학 원고를 하나하나 연구하는 데 오랜 시간이 걸릴 수 있습니다.

대부분의 사람들이 진정한 최첨단 기술이나 혁신을 볼 수 없는 이유는 무엇일까요? AI 때문일까요?

이 유입 경로는 주로 몇 가지 요인들에 의해 함께 추진됩니다:

야망과 문제의 규모, 그리고 작업의 기간이 커짐에 따라 영향력도 확대됩니다.

만약 당신이 단 하나의 최종 답만 있는 질문을 한다면, 이러한 시스템의 진정한 능력을 알아내는 것은 거의 불가능합니다. 당신은 많은, 정말 중요한 질문들을 해야 합니다. 대규모이고 어려운 질문들 말입니다. 이것이 바로 일반 소비자와 전문 사용자 사이의 차이를 결정하는 주요 요인입니다.

시스템의 능력에는 뚜렷한 톱니 모양의 특징이 있습니다.

LLM(대규모 언어 모델)의 능력이 가장 뛰어난 분야는 디지털화, 검증 가능성, 그리고 높은 경제적 가치를 가진 영역입니다.

원인은 대형 모델의 능력이 주로 검증 가능한 보상에 기반한 강화 학습에서 비롯되기 때문이며, 훈련 환경 자체의 선택은 상업적 가치에 의해 결정됩니다. 이것이 수학과 프로그래밍이 특히 두드러지는 이유와 같이, 다양한 전문 분야 간의 격차를 주로 결정합니다.

접근 권한.

무료 버전, 유료 버전, 내부 시스템의 기능이 동일한 수준에 있지 않다는 것이 현재 가장 이상한 점입니다.

사실, 대부분의 일반 사람들은 아직 이러한 시스템들을 직접 사용해 본 적이 없습니다. 설령 사용해 본 적이 있다고 해도, 그들이 본 것은 대부분 조금 어리석어 보이는 채팅 로봇뿐이었습니다.

현재, 대부분의 전문가들이 느끼는 것은 효율성의 향상이 상대적으로 제한적이라는 점입니다. 한편, 소수의 전문가들은 이미 어지러움을 느끼기 시작했습니다:

그들 앞의 능력 곡선이 갑자기 거의 수직으로 변했다.

그리고 이 모든 일이 동시에 일어납니다.

일부 네티즌들은 이 점을 떠올리며, 샘 알트먼(Sam Altman)이 과거에 여러 번 언급했던 판단을 상기시켰습니다: 인공지능(ASI)이 현실 세계를 하룻밤 사이에 완전히 바꾸지는 않을 것이라고 말이죠.

원인은 아마도 여기에 있을 것입니다. 최첨단 기술의 발전 속도가 매우 빠르지만, 대부분의 사람들은 아직 이러한 시스템에 실제로 접하지 못했으며, 안정적인 사용 습관도 형성되지 않았습니다. 기술이 최첨단 연구소에 도달했다고 해도, 이것이 사회 전반에 진정으로 확산되기까지는 아직 갈 길이 멉니다.

이 글은 위챗 공식 계정 “기계의 마음”에서 발표되었습니다.