人工知能がもたらすリスクと世界の終わりを妄想してみる

Pocket

人工知能ブームの昨今、みなさんお元気ですか。

シンギュラリティ(技術的特異点)という考え方があります。これは、人工知能が人間の能力を超えることで甚大な影響がもたらされ、人間の生活が後戻りできないほどに変容してしまうという未来予測のことを言います。

テクノロジーの進歩には正の側面と負の側面がある、なんてことが言われたりしますが、人工知能の技術がこのまま進歩した場合のリスクと、それによって訪れるかもしれない世界の終わりについて妄想してみようと思った次第です。

人工知能が制御する世界のリスク

AIに支配される人達のイラスト

AIに支配される人達のイラスト 「いらすとや」より


現在、自動車の自動運転技術の開発に各社がしのぎを削っています。自動車の開発は、昔はトヨタ自動車やGMなどの自動車メーカーが行っていましたが、自動運転技術はGoogleやApple等のIT企業が参入しています。そして、その制御には人工知能の技術も使用されています。

自動車に限らず、様々なものをコンピュータで自動的に制御しようとしています。IoTという言葉がありますが、様々なものをインターネットにつないでコンピュータによって制御しようという試みがなされています。家電製品、街中を走る車、空を飛ぶ飛行機、海を渡る船、それらがインターネットにつながり、直接制御されるようになった場合、サイバー攻撃のリスクが現在より格段に高くなります。

ただ、このリスクは人工知能とは直接は関係ありません。モノがインターネットにつながることにより発生するリスクです。

「トロッコ問題」から考える、人間の倫理と理性

トロッコ問題をご存知でしょうか。次の二つの状況を考えてみてください。

その1

線路があって、二つに分岐しています。あなたは分岐点にいます。
トロッコが線路を走っていて、このまま進むと5人がひき殺されます。
分岐点にいるあなたがポイントを切り替えると、5人が助かる代わりに、反対側にいる1人がひき殺されます。

その2

線路があって、あなたは線路の横にある丘の上にいます。
あなたの前には知らない人ががけっぷちに立っています。
トロッコがこのまま進むと5人がひき殺されます。
あなたの前にいる人を崖から線路上に突き落とせば、トロッコが止まって5人は助かる代わりに、突き落とされた1人が死にます。

この問いに対して、大半の人は次の選択を取るそうです。
 その1:ポイントを切り替える(5人を救い、1人が死ぬ)
 その2:何もしない(5人が死ぬ)

合理性だけを考えると、両方とも1人を犠牲にして5人を救うのが正解でしょう。
人間が正しいと思う行動は、必ずしも合理的なものでは無いという事です。1

人間の倫理観を持たない人工知能に判断を任せた場合の危うい世界

ドイツが進める製造業の革新「インダストリー4.0」では、機械が自分で考えるてモノを作る工場「スマートファクトリー」を目指しています。例えばこのスマートファクトリーが人工知能によって制御されるとします。

未来の工場で作られるものは電気製品や自動車だけとは限りません。例えばバイオテクノロジーの発展により、移植用の臓器工場ができるかも知れません。また、生物の設計図であるDNAを自在に作成するDNAプリンターなるものが現在、研究されているという話もありますし、人工子宮も研究されています。

現在の技術ですら遺伝子情報が全く同じクローン人間を生み出すことができますが、倫理的な問題により実行されていません。もし、遺伝子情報やバイオテクノロジーを扱うスマートファクトリーを人工知能が制御した場合、倫理の壁を容易に超えてクローン人間を量産するかも知れません。

アメリカの核爆弾のスイッチはアメリカ大統領が押す役割を担っていると言われています。このスイッチを人工知能が持ったとしたら、どうなるでしょう。また、現在の戦争ではドローン(遠隔操作の無人飛行機)が利用されています。このドローンの制御を人工知能に委ねた場合、どうなるでしょう。現在でもドローンでの誤爆による一般市民の被害が問題になっていますが、人工知能による攻撃は、人間の倫理観として受け入れられるものとなるでしょうか。一般市民の犠牲が発生しても、対象を排除するためには攻撃を行った方が合理的と判断するかも知れません。

また、相手がいるのが戦争です。相手の兵器も人工知能で制御されているかもしれません。はたして、その戦争に歯止はきくのでしょうか。

機械は人間が作るものです。つまり、人工知能の判断を人間が取り消せるようにすることは容易です。危険なのは、倫理的な判断が必要な問題の解決において、人間が責任を放棄した場合です。つまり「非合理的な人間ではなく合理的に判断する人工知能の判断が正義だ」という名目の元、問題解決を人工知能に委ねるようになった場合、それは世界の終わりの始まりなのかもしれません。

逆に、人工知能が合理性を基準に判断するのではなく、人間らしい倫理観を持って判断するとしたら、それは皆が求める人工知能なのでしょうか。非合理的な判断をするコンピュータにあなたの命を委ねることはできますか?


Pocket

  1. ただ、突き落とす行為が犯罪ですし、そりゃこういう選択になるだろう、と思ったりもします []

コメントを残す

メールアドレスが公開されることはありません。