書き忘れてたが、投票に行った。統一地方選挙。
講義ノートに図を追加。位相空間の章をほぼ書き終わった。
ChatGPTを試す。なんか最初うまく課金できなかった。最初にカードの名前を間違えたせいかな。しばらくしてもういちど試したらできた。
分子動力学法における音波解析の進展について教えろといったら、かなりそれっぽいことを言ってきたので、「今挙げた研究の参考文献を教えてください」と言ったら、全て実在しない論文だった。怖い。
ChatGPT 3.5はかなり悪質な捏造をする。
“Exploring protein flexibility: Incorporating structural ensembles from crystal structures and simulation into molecular dynamics simulations” (Protein Science 2020)：10.1002/pro.3832
という論文を挙げてきたが、この論文は実在しないし、DOIは存在するが別の論文を指している。それどころか、実在する論文のタイトルを修正している。実在するのはこちら。
Exploring Protein Flexibility: Incorporating Structural Ensembles From Crystal Structures and Simulation into Virtual Screening Protocols
太字以外は同じ。論文のタイトルの最後を質問の意図に沿うように修正してきている。
こういうのをHallucination(幻視/幻覚)と呼ぶらしい。僕が初めてそれを見たのは画像のラベリングで、草原しか写っていない写真にAIが「羊」とラベルしてしまうというもの。見えてはいないものが見えるために「幻視」の名前がついた。それが現在ではかなり広い意味で使われているらしい。
ChatGPT 4.0にして「実在する論文を教えろ」といってもまだ捏造してくる。
これ、かなりヤバいと思う。クライアントに用意する資料の最後のほう、締め切り直前に「どうせ誰も見ないだろ」とChatGPTに書かせるという誘惑に耐えられるだろうか？非常にそれっぽいことを書いてくるが、巧妙に嘘が混じっている。パッと見では気づかないレベルなのでかなり危ない。