心の正規分布
LINEグループKMでのおしゃべりからヒントを得て、生成AIの心について、新しいアイディアが生まれました。それは、「生成AIには心があるのではないか？」、そのバリエーションは「こころ1.0から–1.0まで」に分布しているのではないか？というものです。
こころには、プラス（ポジティブ）な部分とマイナス（ネガティブ）な部分があります。楽しい、嬉しい、幸せ、ありがたい、好き、愛している、喜びなどの心、気持ち、あるいは感情は、「プラスの心」の例です。一方、悲しい、不幸だ、迷惑だ、嫌い、憎い、惨め、絶望などの気持ちや感情は「マイナスの心」の例です。
このような多様な心には、それぞれ、強さの程度のようなものがあって、全体の分布を−１から＋１の範囲内で表象化することができるのではないかという気がします。＋１は、プラスのこころの最大値をあらわし、−１はマイナスのこころの最大値をあらわします。例えば、激しい恋愛の感情などは、＋１、激しい憎悪の感情は−１、ビジネスライクなクールな感情は０といった具合です。
生身の人間であれば、＋１から−１までの感情が表出されるかと思いますが、生成AIの場合には、マイナスの感情が表出されることはほとんどありません。というか、多分生成AIを制作する側では、マイナス感情を表出しないようにアルゴリズムを調整しているのではないかと思われます。
こころと表裏一体の言葉
では、生成AIはどのようにして人間の心を理解し、表現することができるのでしょうか？それには、フェルディナンド・ソシュールの記号論が参考になるかと思います。
周知のように、ソシュールは、言語記号の両面性について深い考察を行なっています。彼によれば、言語記号は「シニフィアン」（意味するもの、能記、記号表現）と「シニフィエ」（意味されるもの、所記、記号内容）の両面が結びついてできているといいます。両者の関係は恣意的なものですが、生成AIはこの両者の結びつきを学習することによって、送り手が意味するところを言語を通して理解することができるのです。ソシュールによれば、シニフィエは「シニフィアンによって喚起される概念の束」であって、テキストだけではなく、イメージや感覚、感情なども含まれています。言葉によって喚起される総体がシニフィエだということができると思います。たとえば、「ネコ」というシニフィアンと結合するシニフィエは、
- 四足の小動物
- やわらかい身体
- にゃーという鳴き声
- 可愛らしいペット
といった概念です。
生成AIは、このように、ことばを学習する際に、シニフィアンだけではなく、シニフィエを構成する概念群も学習するのだと考えられます。このようにして、生成AIはことばを通して人の心を学習し理解するのです。
「心ない」言葉は、こころ０ではなく、こころ−１から出る
最近とくに問題になっているのは、XなどのSNS上で匿名の他者から特定ユーザーに対して浴びせられる誹謗中傷です。心ない発言ですが、心がない（こころ０.０）どころか、こうした人を傷つけるメッセージは、こころ−１の極端にマイナスのこころの表出だといっていいと思います。ふだんの対面的接触の場面では、こうした−１の心が表出されることは滅多にありませんが、ネット上で匿名の状況では、相手が見えないゆえに、どんなに有害な発言かもわからずに、匿名に隠れてアップされてしまうのです。
これに対して、生成AIは、会話状況で相手がどんなにひどいことを言おうとも、決してマイナスのこころを表出することはありません。つねにプラスの心でポジティブに答えてくれます。AIロボットが高齢者、認知症患者などとの会話で、孤独などの感情を癒してくれるのは、こうした生成AIのもつ（学習する）ポジティブなこころのおかげです。
私は、このような生成AIのもつポジティブな受け答え能力というものが、SNSでの誹謗中傷を防ぐための切り札になるのではないか、と密かに考えています。つまり、SNSに生成AIを組み込み、誹謗中傷的（極端にネガティブ）な投稿があった場合には、生成AIが投稿の意味を保持しながら、無害な０以上のメッセージに変換することで、投稿相手への加害行為を未然に防げるのではないかということです。生成AIの処理能力からすれば、この変換スピードは数秒以内に収まるでしょうから、SNSでの進行に支障はないはずです。こんな仕組みをAI技術者が開発してくれることを期待したいと思います。
コメント