Anthropicのアライメント研究責任者Evan Hubinger氏が、AIによる人類滅亡のリスクについて、個人的な見立てとして「10％超」と表明しました。資料によると、直前には研究者が退職し、自己改善型AIの競争に対して強い懸念を示しています。
この発言は、研究者の間でも「現実的な警告だ」という評価と、「終末論的すぎる」という評価に分かれています。ここで考えたいのは、AIが危険かどうかだけではありません。能力が高いものほど、なぜブレーキが必要なのかということです。
能力が高いほど、影響も大きくなる
自動車は、ゆっくり走るだけなら大きなブレーキを必要としません。しかし、速度が上がれば、止まるための距離も長くなります。高性能な車ほど、強いブレーキや安全装置が必要になります。
AIも同じです。能力が高くなるほど、できることが増えます。できることが増えれば、役に立つ場面も増えますが、誤った方向へ進んだときの影響も大きくなります。
だから、「能力を伸ばせばすべて解決する」と考えるだけでは不十分です。能力を伸ばすことと同じくらい、どこで止まるのか、何をしてはいけないのかを決める必要があります。
研究者の退職が示すもの
資料では、警告の直前に研究者が退職し、自己改善型AIの競争に強い懸念を示したと紹介されています。これは、その人がAIの可能性を信じていないという意味ではありません。むしろ、可能性が大きいからこそ、競争のスピードだけで進むことに不安を感じたのではないでしょうか。
能力の高い人ほど、先の展開を具体的に想像できます。多くの人が「便利になる」と考えているときに、「もし制御できなくなったら何が起きるか」まで考えてしまう。その視点は、悲観ではなく安全をつくるために必要な視点です。
「やれること」と「やるべきこと」は違う
私たちの仕事でも、能力が高い人ほど、仕事を速く終わらせたり、複雑な問題を解いたりできます。しかし、やれることが増えたからといって、すべてをやるべきとは限りません。
売上を上げるために、お客さんが望まないものまで勧める。注目を集めるために、確認していない情報を断定する。効率化のために、人との約束を軽く扱う。これらは「できる」かもしれませんが、「やるべき」ことではありません。
能力を使う方向を間違えると、強みは問題を大きくする力にもなります。才能そのものが悪いのではなく、使う方向と止める基準が必要なのです。
才能を安全に活かす3つのブレーキ
第一のブレーキは、目的を確認することです。何のために、その能力を使うのか。目的が曖昧なまま能力だけを伸ばすと、成果が出ても納得できない状態になります。
第二のブレーキは、やらないことを決めることです。私は、嫌な人をお客さんにしないというルールを持っています。面談に10分遅れて来る人には、正当な理由がなければお断りすることがあります。お金になるかだけで判断せず、自分の時間と環境を守るためです。
第三のブレーキは、立ち止まって見直す時間を持つことです。走りながら考えるだけでは、方向の間違いに気づきにくくなります。定期的に「このやり方は、誰を幸せにしているのか」「この成果のために、何を犠牲にしているのか」を確認します。
スイートスポットは、能力と方向が重なる場所
人は生まれつき、スイートスポットと呼ばれる3つの職業を持って生まれてくると言われています。才能を伸ばすことは大切ですが、才能が活きる場所を選ぶことも同じくらい大切です。
能力、目的、守るルール。この3つが重なる場所が、あなたのスイートスポットです。能力だけが突出していても、目的と合わなければ疲弊します。目的があっても、能力を使える場所でなければ成果につながりません。ルールがなければ、成果が出ても自分を壊します。
AIの議論から学べるのは、進むことをやめることではありません。進めるからこそ、ブレーキを備えることです。
高い能力に、強いブレーキを
Anthropic研究者の警告が正しいかどうかを、私たちは簡単には判断できません。しかし、「能力が高いものほどブレーキが必要」という考え方は、AIに限らず人生にも当てはまります。
私はこれまで100冊の本を出し、人生で200冊を出すと決めています。目標へ進むアクセルは持ちますが、何をしないかというブレーキも持っています。
あなたの才能を伸ばす前に、まず3つを書き出してください。何のために使うのか。何をしないのか。どこで立ち止まるのか。ブレーキは、才能を弱くするものではありません。才能を長く、安全に、正しい方向へ使うための装置です。
メタディスクリプション：Anthropic研究者のAIによる人類滅亡リスク「10％超」という警告から、能力が高い人ほどブレーキが必要な理由を解説。才能を正しい方向へ使うための3つのブレーキとスイートスポットの考え方を紹介します。
