過熱するAIロボットブーム。本当に世界を変えたい起業家に必要な冷静さとは

2017.1.19

AIロボットとの共生社会を楽観視できないと考える哲学者の久木田水生氏。彼が開発に携わる人びとに提示する「新たな論点」とは。

『CATALYST』では以前、アンドロイド研究の第一人者である大阪大学の石黒浩教授と共同研究を進める哲学者、小山虎助教を「ロボットと人間の共生社会は実現するか」というテーマで取材した。

小山氏は取材で、実現の可否を決めるのは「ロボットに責任を課すことができるか否か」であると語った。そのような共存社会に向けて、過渡期にある現在の社会においても、そのことが論点になっている。

「自動走行車」に関する国際的な動きにおいては、グーグルやメルセデス・ベンツなどのメーカーらが、自動走行中に起きた事故責任をすべて負うとするポリシーを公表している。

国内でも昨年(2015年)には「ロボット法学会」の設立準備研究会が立ち上がり、ロボットとの共生社会における新しい交通ルールなどが話し合われている。はたしてロボットに責任を課すことは可能なのか、答えはまだ出ていない。

この問題に取り組んでいるのは、産業界だけではない。日本ではあまり知られていないが、道徳的に判断し行動することができるAIやロボット、いわゆる「Artificial Moral Agent (アーティフィシャル・モラル・エージェント)」を作り出そうという研究分野が確立しつつあり、「機械倫理」、「人工道徳」などと呼ばれている。

今回取材した名古屋大学大学院 情報科学研究科 科学哲学研究室の久木田水生准教授もその分野に注目している一人。

しかも同氏は、人間と同じように責任を取れる道徳的な存在としてのAIロボットを開発するのは現時点では難しいという立場だ。

なぜ、難しいのか。また、それでも人間がロボットの産業活用を進め、ロボットとの共生社会に向かおうとするこの過渡期に、起業家や開発者たちが早急に取らなければならないアクション、始めなければならない議論とはなにか。

道徳的なロボット実現をはばむ2つの障壁

ー久木田先生が注目している「機械倫理」とはどのような学術分野でしょうか?

欧米のAI研究者、ロボット工学者、倫理学者、哲学者を中心に進められている、人間のような道徳的判断が可能な人工知能を搭載したロボットの開発を目的とした新しい研究です。

そこではロボットに実装するには、どのような倫理がふさわしいかといったことが議論されています。

しかし、この倫理というのはさまざまな理論があり、それには文化的な背景の違いも大きく影響します 。そのためどのような倫理を実装するのが良いかという問題は容易に解決できるものではありません。

ーどのように異なるのでしょうか?

例えば、佐藤伸彦さんという医師が「たくさんいる生贄の牛の中からたまたま目が合った一頭を助ける」という故事に言及して、それが自分の医師としての姿勢を良く表している、と仰っていました。

この気持ちは私にはよく分かりますし、その行動はとても倫理的だと思います。しかし西洋の倫理学のメインストリームではこのような行動は受け入れられないでしょう。

また、私たちの研究グループがある国際会議でロボット工学と倫理に関するパネルディスカッションを行ったとき、こんなことがありました。

私たちの発表が終わった後、あるアメリカの倫理学者が「このパネルはロボットと倫理をテーマにしているのに、なぜあなたたちの話には「感情」がしばしば出てくるのか?」と質問をしてきました。「倫理は感情に基づくと思うからです」と私が答えると、正確には覚えていませんが彼女は「感情に基づくなら、何でもありになるのではないか?」というようなことを言いました。

西洋の倫理学の伝統では、倫理的な意思決定は普遍的で一般的な規範や基準に沿って導き出されるものでなければならず、そのため感情の影響を受けない理性や知性に基づくべきだと考える人が多いです。

一方で、先ほどの牛を救う故事に示されるように、倫理は必ずしもそのような普遍的な規範に基づかなければならないとは考えていない人びともいます。

ーすると、ロボットの倫理観についても意見が分かれるのでは?

そうです。道徳的なロボットを開発する上での障壁の一つが、「倫理観の違い」だと思います。

現在、機械倫理に従事している研究者は西洋の伝統的な倫理観に基づいて、道徳的なロボットを作ろうとしています。
確かに理性を重視する西洋の伝統的な倫理観は、AIやロボットに実装するには都合がいいかもしれません。

しかしそれをもって「道徳的なロボット」と言われると、彼らと倫理観を共有しない人間としては抵抗を感じてしまいます。

ー技術的というよりも概念的な障壁があるのですね。

技術的な障壁もあります。本当に道徳的なエージェントとして人間と共生するロボットを開発するためには、小山先生のおっしゃる通り、責任を課す必要があります。ロボットがなにか重大な問題を起こしたとしても人間のように責任を取ることができなければ、「ロボットはあくまでもロボット」ということになるからです。

ロボットに責任を取らせるためには、2つのことが必要です。

一つは、人間が罪を償う際に感じる「痛み」を実装すること。
そして、その痛みを感じるための前提となる「セルフインタレスト」を実装すること。

セルフインタレストは、”欲求” や “自我” の基礎にある、「自分にとっての利益」で、つまり「自分にとって何が大切か」ということ。

しかし、それを実装するための技術は今はまだありません。

仮に実装できたとしても、社会がそれを「責任を取った」と認めなければ不十分。こうした障壁を乗り越えて初めて、「彼ら」を社会の一員として受け入れたと言えるのです。

過熱するAIロボットブーム。本当に世界を変えたい起業家に必要な冷静さとは

ー人間と共生するロボットの実現は非常に難しいのですね。

そうですね。
しかしそれでも、その途上と言えるようなロボットを産業に活用する動きは活発になっています。
先述のグーグルやメルセデス・ベンツの自動走行車や、「Siri」を筆頭に音声エージェント、ルンバの自動掃除機もそうです。

今後人工知能技術がさらに発達すれば、ロボットとの共生は加速していくものと思われます。その過程で先ほどの2つの障壁も解決されるのかもしれません。

共通の実用化ガイドライン「ロボット法」の策定が急務

ーロボットとの共生が進む過程で、やはりロボットの責任の問題に必ずぶつかりそうですね。

はい。大きな課題になっていくと思います。
ロボットが絡む事故が起こった場合、その責任の所在については、「ロボットを開発するひと」(例:自動走行車のメーカー)、「利用するひと」(例:自動走行車の所有者)、と定義して、そのペナルティーをあらかじめ定めた方式でそれぞれの関係者に分散させるのが現実的だと思います。

しかし、そのようなルールが足並みがそろわずに策定されていくと問題も起こるでしょう。

ーどのような問題でしょうか?

企業や個人ごとに責任の取り方にばらつきが出てしまう点です。整備がされないままそのばらつきが出てしまうと、開発者も利用者も拠り所を失います。結果、市場が形成されず、この分野でも日本だけがガラパゴス的に世界で取り残されるという事態が起こりかねません。

おそらくは各企業がさまざまなことを試験的に行っていき、それに対応する形で統一されたルールが策定されていくと思います。先述の通り、実際国内では昨年から「ロボット法学会」の設立準備研究会などが議論を始めています。

性善説は危険 未来は ”何が起こるか分からない”

ー「ルール」に関して、海外では「OpenAI*」のような非営利組織も立ち上がり、行きすぎた研究開発に警鐘を鳴らすような動きが見られます。

*OpenAIとは、2015年12月に設立された非営利組織。ボードメンバーにはイーロン・マスクやサム・アルトマンなどIT業界の重鎮が名を連ねる。人間レベルの人工知能が誕生した際に、特定の組織の利益に縛られないオープンな開発を進めていくための活動を行う。

そうですね。OpenAIの狙いはAIに関する研究と議論をオープンにすることで、社会全体の価値に貢献するようなAIの発展を促進することにあると思います。

しかし冒頭で述べたように、国や文化的背景によって異なる価値観、倫理観を一つにまとめるようなルールを決めるのはとても難しい。

今後ロボットや人工知能が社会のなかに入り込み、社会構造を激変させるからこそ、このような議論には政策決定者だけでなく、開発する企業、起業家、さまざまな分野の研究者、市民らが参加することはとても重要なのです。

ー時間をかけて慎重に議論を重ねる必要がありますね。

はい。日本では『ドラえもん』や『鉄腕アトム』の影響で、ロボットとの共生に対して楽観視する傾向があるとよく言われます。それが本当かどうかは分かりませんが、実際「アトムが作りたくてロボット工学者になった」と言う研究者はいます。
日本に限らず、ロボットを作っている人たちはターミネーターではなく、アトムを作るつもりでいるでしょう。

しかしロボットやAIが社会に進出するということは、生態系の中に新しい外来生物が導入されるようなものです。その生物自体が直接的に人間に危害を加えるようなものではなくとも、その生物を導入することが生態系を大きく変えてしまう事態につながるかもしれません。

ここでの一番大きな懸念は「何が起こるか誰にも分からない」ということです。そのことはすべてのステークホルダーが自覚して、そして何かが起こったときには素早く柔軟に対処できるような体制を準備しておくべきでしょう。

そのような準備と、それに伴う多様なステークホルダーを含む議論は、必ずしも研究開発の足かせになるものではなく、むしろ科学技術に対する社会から信頼を増大させ、活発な研究開発を促すことにつながると思っています。OpenAIやロボット法学会などの動きはそのような理念の現れだと思います。

ー本日は貴重なお話をありがとうございました。

取材後記

人工知能やロボットとの共生社会において、なにが起こるのかを確実に予測することは非常に難しい。

一方、今回の取材で明らかになったのは、不明瞭な未来に向けて自らアクションを起こすことが今後確実に求められるということ。

久木田氏の、最先端のテクノロジーを楽観視しすぎるがあまり盲目的に行動し続けることは危険であるとの指摘にはハッとさせられるものがある。

このことについて深掘りしている書籍が、久木田氏も翻訳者として携わった『生まれながらのサイボーグ: 心・テクノロジー・知能の未来』である。

本書は、最新テクノロジーと人間との融合する現在と未来の姿を、具体例を挙げながら探究している。それだけでなく、テクノロジーによって人間が心身ともに拡張されることの可能性と危険性についても触れている。

テクノロジーがもたらす恩恵と脅威、そしてそれらに向き合う際に求められる倫理について知識を深めたい『CATALYST』読者はぜひ手に取ってみてはいかがだろうか。

テクノロジーをテーマに日常風景を描いた話題のマンガ作品『バイナリ畑でつかまえて』。ロボットを治療する医者が主人公のマンガ作品『AIの遺電子』などの著者、山田胡瓜氏の直筆サインが久木田氏の研究室には飾られているテクノロジーをテーマに日常風景を描いた話題のマンガ作品『バイナリ畑でつかまえて』。ロボットを治療する医者が主人公のマンガ作品『AIの遺電子』などの著者、山田胡瓜氏の直筆サインが久木田氏の研究室には飾られている

取材・執筆 :

興味深かった?

0 0
kukita

この記事が気に入ったら
いいね!しよう

最新情報をお届けします

Keywords

Back Numbers

  • DRONE RACE
  • AI
  • DRONES
  • Motoaki Saito
  • Biohack
  • FUTURE LIFE
  • Singularity World
  • WORK
  • MOVE BEYOND
  • 10