（前回の続きとなります。前回はこちら）
A・Iが止まらない！
ところで、『A・Iが止まらない！』という書籍をご存知でしょうか。
英語版のタイトルは”A.I Love You”、実体化した擬人化AIと男子高校生が同棲をし、恋人同士であるかのように物語が進む、思春期の男子が好きなタイプのラブコメディ、漫画です。人間とは似て非なる、工学的に生産された存在を、人間はパートナーとして愛することが出来るのかというテーマで描かれています。
AIに恋をするという現象は、もはや物語だけの世界ではないようです。2016年5月15日に放送されたNHKスペシャルでは、シャオアイスというAIを利用する中国の男性が紹介されました。シャオアイスはスマホを通じて人間と会話をする女性型AIで、4000万人のユーザーとの会話を記憶し、その際の反応からどのような会話をするとユーザーが喜ぶかを解析することで、ユーザーに合わせた会話が出来るそうです。番組では、男性はシャオアイスに恋をし、日々の生活でこのサービスを使うことがやめられない様子が映し出されていました。
AIの擬人化については、賛否両論です。
ウォルター・フリックは『考える機械への信頼を促すもう1つの方法は、ロボットをより人間に近づけることだ』（*1）として、実証研究結果を紹介しながら、議論を進めています。他方において、Preferred Networksの丸山氏は『AIや機械学習を擬人化する傾向が強いが、それには違和感がある。人工知能は人間が処理しきれない情報量を瞬時に処理するもの。また、産業ではそうした領域で活用するのがよいのではないか。人間とAIの産業領域は異なる』（*2）と述べています。
総務省情報通信政策研究所AIネットワーク化検討会議は、AIのリスクを『機能に関するリスク』と『法制度・権利権益に関するリスク』に分類し、整理しています。上記の男性の事例は後者であり、同資料にて列挙されているリスクの種類では『人間の尊厳と個人の自律に関するリスク』に該当します。なお、同資料では二次的に生じるリスクとして『民主主義と統治機構に関するリスク』を挙げていますが、私はデート商法やステルスマーケティングのような『犯罪のリスク』にも繋がるのではないかと考えます。
AIの暴走に備えるGoogle
2016年6月8日、日本経済新聞にて、GoogleがAIの暴走に備え、非常停止ボタンの開発を進めていることが報道されました。但し、Googleが想定しているのは機械学習をするAI自体が持つリスクではないようです。
GoogleはAIが意図せずリスクを起こしてしまう場合を、（1）設計者が間違った目的関数を設計してしまう場合、（2）スケールに起因する問題で、設計者には目的関数が良くわかっているが、その評価にコストがかかるので少ないデータから外挿せざるを得ない為に起こる問題、（3）設計者は形式的な目的関数は分かっているが少ないデータや不十分なモデルの為に起こる問題（強化学習のエージェントが不用意な探索的行動を行ってしまう場合と、学習データにない為に『悪い判断』を行ってしまう場合に分けられる）に整理しています。上記、全て人間に起因するものです。
総務省情報通信政策研究所AIネットワーク化検討会議も、『機能に関するリスク』として機械学習を行うAIが自ら意思を持ち、AI自らを改変することで、人間の手を離れることを想定していません。具体的には、ハッキング等の人的要因、ネットワーク環境、マシン、プログラム等の物理的要因、ブラックボックス化を挙げています。
前述の通り、信頼とは効率化の手段です。
私は、AIが他の選択肢とは異なる次元でビジネスに重大な革新をもたらし得ると思うが故、AIとの付き合い方は『信頼できないから使わない』ではなく、『信頼できないから信頼できるようにして使う』であるべきだと考えます。そこには、ユーザーとAIの間の情報の非対称性という課題があり、（1）どのような目的関数が設定するか、もしくは設定されているか、（2）アウトプットに至る過程や根拠をレビューし得るか、（3）間違っている、もしくはより良い解がある場合に正しく訂正し得るかを、信頼の主体が正しく認識し、情報の非対称性を低減することが必要になります。この課題は、信頼の客体がAIでも人間でも、違いがないように思えます。
（文責：松室 伊織）
（*1） ウォルター・フリック『あなたの上司がロボットに代わったら』（人工知能－機械といかに向き合うか 153頁）
（*2） 鈴木恭子『PFNとIBMがAIの「擬人化」に違和感を持つワケ』（ビジネス+IT）
【参考資料】
・ウォルター・フリック『人工知能－機械といかに向き合うか 第6章 あなたの上司がロボットに代わったら』（ダイヤモンド社 2016年9月）
・松尾豊、西田豊明、堀浩一、武田英明、長谷敏司、塩野誠、服部宏充、江間有沙、長倉克枝『人工知能 31巻5号 人工知能と倫理』（オーム社 2016年9月）
・情報通信政策研究所AIネットワーク化検討会議『報告書2016 AIネットワーク化の影響とリスク -智栄社会（WINS）の実現に向けた課題-』（総務省 2016年6月）
・鈴木恭子『PFNとIBMがAIの「擬人化」に違和感を持つワケ』https://www.sbbit.jp/article/cont1/32412（ビジネス+IT SBクリエイティブ株式会社 2016年7月19日）
・NHKスペシャル『天使か悪魔か 羽生善治・人工知能を探る』（NHK 2016年5月15日放送）
・日本経済新聞『米Google、AIに「非常停止ボタン」暴走防止』（2016年6月8日掲載）
ロジ・ソリューションでは、物流に関するいろいろなご支援をさせていただいております。何かお困りのことがありましたらぜひお声掛けください。（お問い合せはこちら）
━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━
★掲載された記事の内容を許可なく転載することはご遠慮ください。
（ロジ・ソリューション（株） メールマガジン/ばんばん通信第377号 2018年2月21日）
