Motoe Lab, TU

ポナンザの開発者が、刻々と進行中の人工知能の開発状況を解説。人工知能の本はたくさん読んだけど、これは一番おもしろいもののひとつ。

イメージモデルの提示の仕方がうまいので、正確に理解できているのかどうかは、正解を知らないので判断できないのだけど、なるほどそういうことか、と腑に落ちる。

人間は意味と物語に縛られている、とか
人間は指数的な成長を直感的に理解できない、とか
いちいち、うなづきつつ、
究極的結論であるところの「いい人理論」には膝を打った。

シンギュラリティ以降、人類は人工知能をコントロールできなくなる、しかしこの時、人工知能が危険な存在になるかどうかは、実は人類自身の問題である。人工知能は私たちから学んでいる、私たちの子供なのだから、私たちが差別的であれば人工知能も差別をするようになる。実際そうなりつつある。

「
そのために私たちにできることは、冗談に聞こえるかもしれませんが、インターネットをふくむすべての世界で、できる限り「いい人」でいることなのです。
（中略）
人類が「いい人」であれぼ、人工知能はシンギュラリティを迎えたあとも、敬意を持って私たちを扱ってくれるでしょう。尊敬と愛情を感じる親であれば、年老いたあとも子供が寄り添ってくれるように。
（位置no.1521）
」