ある人の生前の情報を使って、その人が亡くなったあとにAIを生成し、「その人が生きていたらこういうことをしゃべっただろう」といった内容のAIサービスを作るプロジェクトというのは、よく見かけます。そこで物議をかもし、「そういうことをやっていいのか悪いのか」といった議論が起こります。

そこには、どうしてもある種の嫌悪感といいますか、「何か間違ったことをやっているんじゃないか」という感覚が伴います。それは、データをねつ造しているような感覚にも近いものです。

私はその分野に詳しいわけではないので、何かを論じることはできませんが、ふと思ったことがあるので、書いておきます。

それは何かというと、結局のところ重要なのは、「その人がそう言ったとしてもおかしくない」ということと、「実際にその人がそう言った」ということの違いなのではないか、という点です。

確率的な話として、ある人がこういう文章を書いていた、その人はこういう話をしていた、この人はこういう人で、これまでこういう出来事に関してこのような意見を述べていた──そうした多くの情報があったとします。そこから確率的に考えるならば、「この人はこういうことを言うだろう」「こういう出来事に関して、このような考えを述べるだろう」ということは、現在のAIでも自由に生成できると思うのです。

そこで先ほど述べた「そういうことを言ったとしてもおかしくない」「そういうことを書いたとしてもおかしくない」「それはいかにもあり得ることだ」という蓋然性の話と、「実際にその人がそう言ったのだ」「実際にその人がそう書いたのだ」という事実との違いを、どう捉えるかが問題ではないかと思います。

AI、特に機械学習によって確率的に生成できる非常に高性能なAIが登場してからの歴史は、まだ浅いです。人間の意識としても、その二つを明確に区別することに慣れていない、というのが現状だと思います。

とはいえ、今までもその二つの区別は重要でした。たとえば「証拠のねつ造は良くない」とか、「歴史と誰かが考えた物語を同一視するのは良くない」といった文脈で語られてきたわけです。

しかし、これから時代が変わってくると、もちろん「実際に言ったかどうか」は大切なことですが、それとは別に「どのような確率でそういうことを言う可能性があるか」といった分野や研究は、行われてしかるべきだと思います。

それを特定の個人に結びつけると確かに問題がありますが、集団や特定の学問分野、あるいは組織に関して、「その組織としての意思」や「考え方」といったものをAIのような形でまとめるというのは、私は意味のあることではないかと感じています。

このあたりの議論はとても難しく、感情的な反感だけを前面に出して進めてしまうと、かえって大きなものを見失ってしまうのではないか、という気がしています。

「実際にそう言った」という事実と、「そう言ったとしてもおかしくない」という蓋然性。この二つを明確に分けることを大前提とした上で、「ある人」や「ある組織」の、いわば集合としての言葉を今後どう扱うかというのは、大事な話だと私は思います。

以上、まったくまとまっていませんが、とりあえず文章の形にしてみました。