알파고를 만든 딥마인드의 CEO 하사비스가 조회수 1,150만짜리 글을 올렸다. 요지는 두 개다. 첫째, 인간 수준의 AI(AGI)가 '몇 년' 안에 온다. 산업혁명의 10배 충격이 10배 속도로 온다는 게 그의 표현이다. 둘째, 그런데 지금 업계는 브레이크 없는 경주 중이라 기술이 이해를 앞지르고 있으니, 심판을 만들자. 그가 제안한 심판은 꽤 구체적이다. 미국 증권업계가 자체 규제기구를 두듯, AI 업계도 돈을 모아 표준기구를 만들자는 것. 이 기구가 시험을 만들어 '최상위급 AI'를 정의하고, 새 모델은 출시 전에 심사를 받고, 통과 못 하면 미국에서 못 판다. 그리고 제일 눈에 띄는 대목: 상황이 심각하다 싶으면 이 기구가 업계 전체의 개발 속도를 늦추도록 조율할 수 있다는 것. AGI를 만드는 당사자가 스스로 속도 제한 장치를 달자고 나선 셈이라, 진심인지 명분 쌓기인지를 두고 논쟁이 붙었다.
Why it matters · 모든 컴퓨트 수요 모델은 경쟁이 멈추지 않는다는 가정 위에 서 있다. AGI를 만드는 당사자가 첫 제도적 브레이크를 제안했고, 그 비용은 업계가 댄다.
Demis Hassabis, the DeepMind CEO who built AlphaGo, posted an essay that has racked up 11.5M views. Two claims. First: human-level AI (AGI) is only a few years away, with an impact he sizes at 10x the Industrial Revolution at 10x the speed. Second: the industry is in a race with no brakes, technology is outrunning our understanding, so let's build a referee. His referee is quite specific: just as US securities firms fund their own regulator, AI companies would fund a standards body. It would define what counts as a 'frontier' model through tests, review new models before release, and block anything that fails from the US market. The striking part: if things get serious, this body could coordinate a slowdown across the entire industry. The man building AGI is volunteering to install a speed limiter, and the debate is whether he means it or is building cover.
Why it matters · Every compute demand model assumes the race never slows. The man building AGI just proposed the first institutional brake, and industry would fund it.
アルファ碁を作ったディープマインドのCEOハサビスが、閲覧1,150万回のエッセイを投稿した。要旨は二つ。第一に、人間レベルのAI(AGI)は「数年」以内に来る。産業革命の10倍の衝撃が10倍の速度で来る、というのが彼の表現だ。第二に、いま業界はブレーキなしのレース中で技術が理解を追い越しているから、審判を作ろう。彼の提案する審判はかなり具体的だ。米国の証券業界が自前の規制機構を持つように、AI業界も資金を出し合って標準機関を作る。この機関がテストで「最上位級AI」を定義し、新モデルは発売前に審査を受け、通らなければ米国では売れない。そして最も目を引く部分: 状況が深刻だと判断すれば、この機関が業界全体の開発速度を落とすよう調整できるという点だ。AGIを作る当事者が自ら速度制限装置を付けようと言い出した形で、本気なのか大義名分づくりなのかで論争になっている。
Why it matters · あらゆるコンピュート需要モデルは、競争が止まらないという前提の上に立っている。AGIを作る当事者が最初の制度的ブレーキを提案し、その費用は業界が払う。