ＡＩを知ることは人間を学ぶことなのだ、と感じた。

『ＡＩは心をもてるのか？』

→もつことは難しい。

逆の見解として、もつことができる。

心をもつＡＩともたないＡＩに分かれる。

もしＡＩが心をもった場合、自律させる必要がある。

自律させるということは、ＡＩ自身を優先させ、人間と利益相反になり危険がある。

自立させるということは人間にとっての隠し事ができる、ということでもある。

『ＡＩには、精神的感覚や身体的感覚（痛みなど）をもてるのか？』

→もてない。

逆の見解として、もたせることができる。

人と人は、似たり寄ったりだから共感が起こるのであって、もしこのような感情がもてないとすると共感が起こらない。

共感があるから信頼感が生まれるのであって、感情のもてないＡＩに対して人間はどこまで信頼感をもてるのだろうか？

見せかけることはできる、とも言う。

精神的感覚や身体的感覚をもっているように見せるだけで人間はどこまで信頼できるだろうか？

また、精神的感覚や身体的感覚が日々更新されていくから共感が得られるものもある。

精神的感覚や身体的感覚が日々更新できるようになる（する）のだろうか？

『ＡＩは、目標や動機を持てるのか？』

→目標や動機を自分ではもてない。

なので、人間が設定してやらないといけない。

設定した、目標や動機を、自分で変えることもできない。

設定した目標や動機毎の別々のＡＩが存在することになる。

逆の見解として、目標や動機を自分で学習することができて、目標や動機を変えることもできる。

ならば、ＡＩの暴走によって恐ろしい世界になる可能性がある。

『ＡＩは、物事を判断することができるのか？』

→できない

逆の見解でできる。

ＡＩに判断させるためには、判断軸を設定する必要がある。

この判断軸、倫理的な軸について、ＡＩの登竜門とも言える『トロッコ理論』というものがある。

トロッコが線路を暴走していて、この先に２つに分かれる分岐点がある。

一つの先の線路上には1人がいて、もう一つの先の線路上には、5人がいる。

その距離とスピードから、トロッコが突っ込んだ線路の人の命は助からない。

分岐点での切り替えはどう判断したらいいか？

という問題である。

トロッコ問題（Trolley problem）とは？

一般的には、たくさんの人を助ける選択ーこの例ではトロッコを1人がいる線路に切り替えることーが正しいとされるのだろう。

次は別の問題。

トロッコが同じく暴走していてその先の線路上に5人がいる。

このままだと、5人の命は助からない。

しかし、ある大男1人を線路上に落とすことによってトロッコの暴走を止めて、5人を助けることができる。

その場合、その大男の命は助からない。

この場合において、大男を線路に落とす選択をするべきか？

という問題である。

先ほどの理屈でいうとできるだけ多くの人を助けることが正解だとされていたが、今回の場合、その正解に向かっていくと殺人に手を染めることになる。

これを選択するべきではない、ということになる。

このことは判断する基準がシチュエーションによって変化する、といえる。

また、5人を助けることより、1人の殺人をしてはいけない、という判断基準には重さの違いがある、とも言える。

これはいかなる場合でも正しい基準なのだろうか？

例えば、

この大男がトロッコを生きて止めることができる、と思っていたら・・・

この大男が助けることを合意していたら・・・

この大男が死刑確定で逃亡している犯罪者だったとしたら・・・

さらに言えば、このトロッコ問題は、命が奪われることが確定している非常にシンプルな問題になっている。

現実には、線路上の人が脱出できない、とどうやって判断ができるのか？など更に複雑な要素が含まれている。

いずれにしても、このような複雑な基準をＡＩに設定しないと正しい判断？はできないことになる。

人間は正しい基準を持ち合わせておらず、判断を間違い、過失を起こすことがある。

ＡＩに過失がないならば、ＡＩに正しい基準をインプットできていることが条件になる。

正しい基準を持ち合わせていない人間が、ＡＩに正しい基準をインプットできるのだろうか？

ＡＩが人間が正しいと考える基準を作り出すのか？

ＡＩがつくる基準に人間が強制されることでしか解決しないのではないのだろうか？

『ＡＩは、責任をとれるのか？』

→自動運転が実現して事故に遭遇した場合の問題。

路上の人を轢いてしまうか、路上の人を避けて、車が壁に激突するか？いずれかの選択しかない。

車が壁に衝突した場合、車内の乗客（自動運転車の所有者）が命を落とすことになる。

当然、自動運転車の所有者＝ご主人様を生かすことー路上の人を轢いてしまうことをー選択するのだろうか？

また、自動運転車の事故の責任は、自動運転車（AI）がとれるのだろうか？

責任は、自動車の所有者にあるのか？車のメーカーにあるのか？ＡＩのソフトウェア会社にあるのか？

自律したＡＩならば、痛みを伴うＡＩが責任がとれるものなのか？

人間は犯罪を起こしてしまうものだが、刑罰があることでで抑止力になっている。

人間は、ＡＩが感じる痛みを、人が罰を受けて刑務所で服役するような痛みと同じように捉えられるのだろうか？

更には、ＡＩによって様々の判断がなされた時、どうしてその判断になったのか？

ＡＩにインプットされた大量データからの判断は、複雑すぎてプロセスがわからないブラックボックスになる。

ＡＩは裁判でプロセスを事細かに話すのだろうか？

『ＡＩは、宗教をもてるのか？』

→宗教をもつには宗教をもつ目的を設定する必要がある。

【一般的な宗教の目的】

・苦しみの中にいる時私たちを慰め、死の恐怖を和らげること。

・宗教なしには説明できない事柄を説明すること。

・試練や敵に直面した時、集団的な共同行動を助長すること。

まず、宗教家はこの目的の論理的？な説明をそのまま同意できるのだろうか？

このことはおいておいて、この宗教の存在する目的として、人間の恐怖や不安がある。

ＡＩに恐怖がないと人間と共感し合えないから、

「あんたは怖くないんだろうから」などとなって、人間との距離ができるのではないだろうか？

経験者だから、人のために語れることがあるのであって、説得力がないのではないだろうか？

また、人間は恐怖や不安以外に、森羅万象ー科学的に証明されていないことなどーに対して答えを知りたくなる、という好奇心をもっている。

ＡＩは、好奇心をもった場合、それはどんな好奇心になるのだろうか？

『ＡＩが得意な能力とは？』

→ＡＩが得意な能力は、以下の４つ。

計算力・分析力・記憶力・論理力

これらにおいて、人間はＡＩにスピードや正確性でかなわない。

しかし、それ以外に人間はいろいろな能力を持っている。

交渉力・解釈力・注意力・疑問力・独創力・観察力・想像力・理解力・観察力・企画力・構想力・判断力・連想力・傾聴力・洞察力・共感力・類推力・予知力・観察力・空想力・発見力・記述力・・・・

逆の見解では、ＡＩも創造する(手塚治さんっぽい物語を書いたとか・・・)ことができるから、創造力等もある言える。

人間はこのようにたくさんの能力をオーケストラの指揮者のように統率して生活している。

言葉の定義は曖昧だから、重なっているような能力もあるが、いろいろな能力を使っていることは何となく理解できる。

ここで今言えることは、人間が、計算力・分析力・記憶力・論理力を高める努力は、そこそこに、ということになるだろうか。

人間が、何かの問題に直面した時に、解決策として直観が立ち現れる。

これがいろいろな能力の組み合わせによって起こってくる。

ＡＩは、たくさんの事例の記憶があり、それに照らし合わせて一つ一つを比較検討して、最適な解決策を選択する、というプロセスになるらしい。

それが高速で行われるから、直観のようなスピードで解答が出せるかもしれない。

しかし、人間の直観はこのようなプロセスではなく、最初から絞り込まれた１つ（あるいは2～3）の解決案がひらめくらしい。

このひらめきは、経験の積み重ねから起こっているという。

ある専門職（消防士などが紹介されていたが）でもベテランになればなるほど、過去の経験から解決策がひらめくらしい。

これ以上どういうしくみなのかはわからないが、この直観が人間らしさである、と書籍にはある。