カナダ・オタワについて

オタワはカナダの首都で、カナダ政治の中心地です。 議会(Parliament)や中央官庁、様々な国の大使館があります。オタワはカナダの歴史を色濃く反映した都市です。カナダ戦争博物館など、街の至るところにカナダの歴史を伝える博物館があります。

そうした政治の中心でもある一方、カナダの多文化主義を象徴する都市でもあります。様々な人を文化や人種の隔てなく受け入れる文化があり、食事に関しても様々な国の料理を楽しむことができます。コミュニティに関しても、多くの国のコミュニティを見つけることができます。

文化・言語・食事・コミュニティの観点から移民の方や留学生にとって選択肢の多い都市です。

天候は、日本と同様四季を楽しむことが出来ます。9月～10月にはオタワはカナダを代表するカエデの木の綺麗な紅葉に包まれます。一方で、11月末頃から厳冬となり、冬を過ごすには工夫が必要です。

Carleton University

12月上旬のオタワ

研究内容について

Carleton UniversityのZinovi Rabinovich助教の元、最新の強化学習に対して、特定の環境における攻撃の有効性を確認しました。Zinovi助教は、主に多エージェント下の強化学習を主に研究されています。Zinovi助教の過去の論文の中で、私が着目していた攻撃を議論されている論文を発見しました。 そこで自身の研究提案を送り、ご承諾いただく形で研究を進めました。

強化学習とは、動作主体であるエージェントが周囲の環境の中で行動を行い、自律的に学習を進める機械学習の一分野です。強化学習は自律的にデータをロボットアームの制御など、教師データが無いタスクでも良い行動を学習することが可能です。また、学習能力として将棋や囲碁といったタスクでは人間の思考とは異なる解を発見しています。

そうした、強化学習は近年さらに注目を集めており、最新モデルでは長い思考を必要とするタスクを解くことに成功しています。

しかし、強化学習にはいくつかの攻撃が提案されており脅威となっています。一方で、攻撃の多くは最新の強化学習に対する有効性が確認されていません。

そこで、本インターンシップでは最新の強化学習に対する特定の攻撃の有効性を確認しました。

本研究で焦点を当てた敵対的例を紹介します。

敵対的例とは、入力にノイズを混入させることで推論器の判断を誤らせる攻撃です。

機械学習全般に対する攻撃で実用に際して脅威となっています。

そうした敵対的例を強化学習の設定のために、特殊化したのが機微状態攻撃になります。 機微状態攻撃は、目的達成に重要なタイミングのみ攻撃を行うことでエージェントの性能低下を行う攻撃です。効率的に攻撃できるため、強化学習の実用に際して、現実的な脅威となっています。

本インターンシップでは、最新のモデルに対して機微状態攻撃を実行し、攻撃が有効であることを確認しました。 実験内容として、Atari 2600という強化学習のテスト環境を用いて決定的な環境上での攻撃の有効性確認、また2048というゲームを用いて確率的環境上での攻撃の有効性確認を行いました。実験より、決定的環境・確率的環境の双方において最新の強化学習は機微状態攻撃に脆弱であることを明らかにしました。

Zinovi助教には、強化学習の環境の観点から、複数のアドバイスをいただき、攻撃する環境多様化など、御助言を元に研究を深めることが出来ました。

敵対的例攻撃のイメージ図：攻撃者のノイズの混入により、エージェントは誤推論する。

機微状態攻撃のイメージ図：ボールを返す瞬間など重要な状態のみ攻撃する。

文化的な気づき

北米での研究の交流の違いについて述べさせていただきます。

カナダを含む北米は、個人でも全体でも交流の機会が多いことが特徴です。著名な学会の多くは北米で開催され、私自身もNeuripsといった学会に参加することができました。この交流の強さは北米で研究する利点だと思います。

また、個人レベルでも交流が盛んです。カナダの大学では研究科単位で教員や大学院生のための交流会が開催されます。主に金曜日に開かれますが、そこで教員の方は共同研究、学生は別の教員の助言などフラットに交流することができます。修士の研究でも、理論面・応用面・分野の観点で研究室の隔てなく教員から助言をいただくことができます。

おわりに

相手先のZinovi Rabinovich助教、研究留学をご承諾いただいた河原 吉伸 教授に心より感謝申し上げます。また、本渡航を資金面でご支援くださった大阪大学・電通育英会に感謝申し上げます。また、鬼塚 真 教授を始め多くの方のお力添えにより研究留学を完了できました。各人にこの場を借りて深く御礼申し上げます。

Neurips2024の学会の様子