会議の後、物性研へ。遠い・・・
物性研についたのは5時。ポスターセッションの途中で参加。いろんな人と話す。
物性研に参加登録した記憶があるのだが、参加登録されてなかった。確認画面だけ見て満足しちゃったかな？
懇親会でexplainable AI、というかAIの解釈可能性について話題になった。
何かを理解する、というのは結局のところ人間がどこで満足するかであり、それはAIによって変わるのではないか？つまり、AIの解釈可能性というのは、老人の感傷に過ぎないのでは？
これについてうまく回答できなかったのだが、その後考えた。我々はなんらかの機能が発現している時に、その「理由」を知りたい。ではどういう状態になったら「知った」ことになるのか。「わかった」ことになるのか。
例えば我々は写真を見て、それがネコかイヌかは判定できる。しかし、「どこを見てそう判断したか」は説明できない。これを、ネコとイヌの写真の分類器を作り、その分類ができるという機能が発現した時、その機能のブレークダウンをできるか？AIはどこに注目しているか？実はサブタスクに分解されていないか？それはどうやったらわかるか？
そしてそれらがわかった時、我々は「ネコとイヌの分類」というタスクについて何か知識が増えたことになるのか？
うーん、もう少し考えないと駄目だな。