2025.09.09

信頼性のあるAIのための基礎科学

AIは今日の社会に大きな影響を与えていますが、いまだ多くの課題があります。その中でも筆者は特に「AIの信頼性の向上」に興味を持って取り組んでいます。この Trustworthy AIとも呼ばれる次世代の信頼のおけるAIシステムの構築を目標に、AIに自身の出力に対する「自信」の程度を定量化する方法を学ばせ、使用者に「いつAIの出力が信頼可能で、いつ信頼に足らないか？」を伝える語彙を増やすために貢献したい、というのが今回の研究の動機でした。

実はこれは極めて困難な課題で、「己の無知を知る」ことは人間と同様に AIでも難しいようです。その遠因のひとつに、現在のベイズ統計学で推定の不確実性を定量化するアルゴリズムの代表である、ハミルトニアン・モンテカルロ法の理論的な性質に未解明な点が多いことがあります。このことを今回の訪問先であるアレックス・ティエリー准教授と合意したのち、初の本格的なダイナミクス解析に乗り出しました。

理想的な設定でのアルゴリズムの動きをマルコフ連鎖の数学で捉えることで、その特徴量のスケーリング極限を解析することが可能です。これにより本来目ではみることができなかった高次元でのアルゴリズムの挙動への理解が進みます。本研究がより効率的なアルゴリズム設計への糸口になることを目指して、今後とも本共同研究を力強く進めていきたいと思います。

派遣先滞在期間

Date of Departure: 2025/6/1
Date of Return: 2025/6/30

国、都市等

シンガポール

機関名、受入先、会議名等

シンガポール国立大学、統計・データサイエンス学部

‍派遣中に学んだことや得られたもの

今回訪問しましたアレックス・ティエリー准教授は、純粋に研究を楽しんでいることが大変よく伝わり、心から尊敬できる研究者のひとりでした。ディスカッションが楽しいこともさることながら、周りの学生さんやポスドクの方々も極めて活発に意見交換をしており、そこに混ぜていただいた経験は、自分の研究との向き合い方も大きく変えました。シンガポールの熱い気候に世界各地から集まった熱い志が、私にも宿った気がいたします。

統計科学コース　司馬博文

私は「ベイズ計算」と呼ばれる分野を専門に研究しています。ベイズ推論は、統計学・逆問題・機械学習・情報科学などの分野において確率論を応用するための指導原理を与える枠組みです。そこで私は、ベイズ推論に汎用的に使える計算アルゴリズムを開発することで、確率論の応用を広げることを目指しています。