人類存続に対する最大の脅威：存在的リスクの理解

要約

本記事では、存在的リスクの概念と、人類文明の絶滅や崩壊につながる可能性のある脅威について探求します。核ミサイル攻撃の誤報や新しい技術の発展に伴うリスクの増加など、私たちを災害の瀬戸際に追いやった歴史的事件を検討します。また、これらのリスクを理解し軽減することが、人類の未来を守る上で重要であることについても論じます。

核ミサイル攻撃の誤報

1995年1月、ロシアは自国に向かって核ミサイルが飛来していると判断しました。大統領が報復を検討していたところ、別のシステムが最初の警告と矛盾する情報を提供しました。彼らが大量攻撃の最初のミサイルと思っていたものは、実際には北極光を研究するための研究ロケットでした。この事件は、冷戦終結後に起こったものでありながら、世界的な核戦争を引き起こす可能性がある存在的リスクの最も近いものの一つでした。核兵器による存在的リスクは、都市の焼却によって出る煤が数年間にわたって太陽を遮り、人類が依存する作物を失敗させる可能性がある、核冬季化から来ます。

存在的リスクの評価

存在的リスクの評価は、完全な人類の破壊の歴史的前例がないため、不確実なビジネスです。自然原因による絶滅のリスクは、1世紀あたり1万分の1程度と推定されていますが、核兵器や新興技術の追加により、このリスクは大幅に増加しています。

核兵器と核冬季化のリスク

核兵器に関連する多くのリスクがありますが、存在的リスクは、世界的な核戦争の可能性から来ます。私たちはまだ核戦争を経験していませんが、それらが本質的に起こりにくいか、単に運が良かっただけかを判断するには、私たちの記録は短すぎます。また、世界的な核戦争が人類に存在的な脅威をもたらすほどの核冬季化を引き起こすかどうかも確認できません。

気候変動と文明の混乱

気候変動は、人類の未来にとってもう一つの大きな脅威です。数度の温暖化が予想されていますが、これ以上の深刻な温暖化シナリオを完全に排除することはできません。最悪の場合でも、温暖化が直接的な存在的リスクをもたらすかどうかは明確ではありませんが、それによって引き起こされる混乱は、他の存在的リスクに対して私たちをより脆弱にする可能性があります。

新興技術とエンジニアリング・パンデミックの脅威

最大のリスクは、バイオテクノロジーや人工知能など、まだ新興の技術から来る可能性があります。例えば、エンジニアリング・パンデミックは、自然発生するものよりもはるかに致命的で、生物戦争や研究事故によって作られる可能性があります。致死性のあるウイルスの公開されたゲノムなど、潜在的に危険な情報の入手性が高まることで、このような病原体を作成することができる人々やグループの数も増加しています。

人工知能の未調整性と人間の価値観の課題

ほとんどの人工知能研究者は、この世紀に人間の能力を超える人工知能を開発すると考えています。このアドバンテージを譲れば、私たちは作成したシステムの手に未来を委ねることになります。人間の最善の利益だけを考慮して作成されたとしても、超知能人工知能が人間の価値観に完全に合わない場合、存在的リスクをもたらす可能性があります。科学者たちは、この課題に対処するのが非常に困難であることに直面しています。

人類の未来を守る

現時点で私たちが知っていることに基づいて、いくつかの専門家は、人為的存在的リスクが自然リスクの背景率よりも100倍以上高いと推定しています。しかし、このリスクのほとんどは人間の行動から来るものであり、人間がそれを減らすことができます。私たちが人類の未来を守ることを時代を超えての課題として扱えば、このリスクを減らすことができます。人類がその可能性を実現するかどうかは、私たちの手にかかっています。