人とAIの共生時代における人間の位置付け

　2022年9月に京都大学情報学研究科社会情報学専攻で博士号を取得した後，10月に助教として着任した。現在は，エージェントの意思決定や，エージェントと人間の合意形成を中心としたマルチエージェントの研究に取り組んでいる。私はこれらの研究の社会的な影響について特に関心を持ち，研究機関や企業と連携しながら強化学習やゲーム理論などの手法を用いて，エッジサーバの協調やドローン配送及び自動交渉等，多様な社会実装を進めている。
　一方，昨今はGPTを代表とする大規模言語モデル（LLM）の進展などの第四次AIブームにより，第一次AIブームに描かれた「機械が人間のように思考し，推論し，世界を理解する」というAGI（汎用人工知能）の実現にかつてなく近づいている。AIは人々を煩雑な作業から解放する一方で，人間の価値を脅かす側面も持つ。私たちは，AIと共に生きる時代において，人間の位置付けを真剣に考える必要があるかと思い，主に以下の2点を考えている。
　第一に，人間こそがAIに“原動力”を与える存在である。また，AIがどれほど進化しても，人間のような自己意識や欲望を持つことはないと考えられる。意識や欲望は世界を動かす根本的な原動力であり，AIはあくまで人間の意志に従って行動する。このため人間を中心に据えたAIの開発が重要であり，人間の内面を理解することが極めて重要な研究課題となる。現在のLLMは高度ではあるが，人間の内面を真に理解するには至っていない。例えば，自動返信の場面，同じ誘いに対しても人によって返答は異なる。ユーザの心情や対人関係を踏まえ，応答を柔軟に調整することは未だに難しい。そこで，誰に，どの場面で，なぜその言葉を選ぶのか，というような人間の内面を理解し，人間のような応答を再現することが出来るパーソナライズLLMの構築に取り組んでいる。
　第二に，人間はAIのスーパーバイザーとしての役割を担う必要がある。AIは問題解決には優れているが，重要な問題を聞く（Asking important questions）には限界がある。そのため，人間が重要な課題を見定め，AIに対して適切に指示やフィードバックを与えることが不可欠である。一方，こうしたAIの活用によって，従来の「プロセス→結果」という流れは「結果→フィードバック」へと変わりつつある。例えばプログラミングでは，以前は人間が言語を習得し自らコードを書いていたが，現在ではLLMがニーズに応じてコードを生成し，人間がその結果にフィードバックを与えて改良する形に移行している。今後は，AIに対して効果的なフィードバックを行い，より良い成果を引き出す力が求められる。この変化に応じて，人々がAIの出力を正しく理解し，迅速に知識を吸収する「理解の加速」が大きな課題となっている。
　総じて言えば，AIをいかに「人をより深く理解できる存在」にするか，そして人がいかに「AIをより理解できる存在」にするか，が人とAIの共生時代において重要であると思う。

（情報学研究科）