AIが人間より賢くなることよりも、心配すべきこと

前回は日本を代表するプラットフォーマーについて投稿しましたが、今回は少し壮大な話に触れようと思います。

シンギュラリティとは

シンギュラリティという言葉を知っていますか?人工知能が人間の能力を超えることで起こる出来事ということで、人工知能研究の世界的権威とされているレイ・カーツワイルという人が書籍を出し、話題になりました。

シンギュラリティは近い―人類が生命を超越するとき

まさにSFの世界のような話が、将来起こることとして記載されています。驚くような話ばかりです。ブロガーで有名なイケダハヤト氏が簡単にまとめてくれています。

21世紀中に訪れる「シンギュラリティ(技術的特異点)」とは何か

「シンギュラリティ」よりも心配すべき課題

AIが人間より賢くなったら人間を滅ぼすのではないかという話は、映画にするには格好の題材ですが、直近の課題は別のところにあります。その理由は、AIが汎用的な目的よりも専門的な目的に活用しやすいという特徴があるからです。実際に以下のMITメディアラボ所長の伊藤穰一氏とバラク・オバマ大統領の対談でも、差し迫った懸念事項は専用AIが解決しうる問題の中にあると語っています。

バラク・オバマが伊藤穰一に語った未来への希望と懸念すべきいくつかのこと

例えば、以下のトロッコ問題については、実際に解決しなければいけない問題として興味深いものでした。

問題は、そのクルマにいったいどんな価値判断を埋め込むのかという点にある。それを決定するためには、数え切れないほどの決断をしなくてはならない。

古典的な命題としては、クルマが歩行者をはねそうになったとき、ドライヴァーはハンドルを切れば避けられるけれど、壁にぶつかって自分が死ぬかもしれない、といったものがある。これは倫理的な命題だが、それをいったい誰が決定すべきものなのか。

また、国家レベルにおいても、解決すべき問題があります。

展開の読めない複雑な囲碁をプレイできるコンピューターを手にした者であれば、ニューヨーク証券取引所で自分の利益を最大化するためのアルゴリズムをつくるのは時間の問題だ。それを最初に実現した個人もしくは組織が、株式市場を崩壊させるのはわけもないし、クラッシュさせないまでも、金融市場の信頼性に疑問を投げかけることはたやすい。

それから、核兵器を制御するコードに侵入して、ミサイルを発射する方法を見つけよ」との指示を受けたアルゴリズムだってできるだろう。ひとつのタスクに特化した、自己学習ができる効果的なアルゴリズムが生まれる。これは脅威といっていい。

AIの活用によってもたらされる恩恵につい目が行ってしまいがちですが、そこには便利さとは裏腹に、大きなリスクを抱えているともいえます。

AIの活用は、まず具体的な課題に対して、人工知能が代替するという段階から始まります。経営や事業にとって、何がIssueなのかを判断するのは、まずは人間です。そして、人工知能に代替することによって引き起こる課題やリスクを考えるのも、また人間になるでしょう。

それらAIに伴う経営課題を解決するためには、業界や事業への理解だけでなく、AIというテクノロジーに対する理解も必要となります。今後、経営者やビジネスパーソンに求められるリテラシーが、時代と共に変わっていくことが必至のようです。