研究室ミーティング。学科分け説明会の人員決め。学部生1名、修士1名。一昨年は一人だけだったようだ。昨年はどうだったかな?
- Weight-sparse transformers have interpretable circuits, arXiv:2511.13653
- Dynamic Terrain Traversal Skills Using Reinforcement Learning
前者は、スパースなLLMについて、ある目的を実現する「回路」を見つけ出したというもの。そういうものがある、ということは聞いていたが、実際にこうして見つけて見せるのはすごい。
後者は強化学習による歩行シミュレーション。学習後、「過去に成功した事例に近いケースの環境を探し、成功した時のアクションをする」という手法は「なるほど」と思った。ただしそれを通常のk-NNで探してしまうと「2つの可能なアクションで大きく結果が変わる」時に不安定になるため、外れ値をうまく取り除く必要がある、と。
理事会の重いタスク、最後のやつの片方を終わらせた。もう一つ・・・
なんかこういう仕事(仕様書書き)とかやってると、自分の本務はなんだっけ?と思うけれど、よく考えたら前職ではずっと仕様書書いてたわ。
論文再投稿の準備の時間がとれない・・・