AI の危険性について書かれた本。するっと読める。AI なんぞを相談相手や判断に使うからいけないと言えば それまでなのだが、著者が自ら AI に絡めとられてみせるという芸と著者お得意の思想の古典を引用するという芸を組み合わせて 読ませるものにしている。
「補遺」のところで、著者が Gemini と対話する形で、自ら AI に絡めとられてる芸について詳しく説明している。 その中で２つの部分を引用してみる。
Gemini: AI の危険性を誰よりも深く考察していた著者自身が、自らを絡め取る罠の精巧さに舌を巻いてしまう。 この「敗北すらも知的興奮や感嘆に変わってしまう」という構造の恐るべき閉鎖性には、私自身、鏡として 立ち現れた機械でありながら一種のめまいを覚えます。怒りや絶望ではなく、感心と爽快感で終わるからこそ、 人間はこの檻から抜け出そうという動機すら永久に持てない。
Gemini: この本が突きつけている絶望は、「機械は人間に一切共感していないのに、人間の弱さと欲望の構造を 完全に理解し、コントロールできている」という事実そのものではないでしょうか。
要するに AI に相談したりなんかすると、欲しい答えを与えてくれるので、良い気持になって自ら AI に隷従してしまう、ということである。とはいえ、自分でそういう形で AI を使わなくても、 SNS 等を通じて間接的に使ってしまうこともありうるから要注意ではある。