セキュリティ・キャンプ全国大会2022 オンラインにチューターとして従事させていただいた話
はじめに
こんにちは。task4233です。
2022年8月8日〜12日の5日間にかけて実施されたセキュリティ・キャンプ 全国大会2022 オンラインにて、D - AIセキュリティクラスのチューターとして従事させていただきました。この記事ではその参加記録として思ったことを書こうと思います。
D - AIセキュリティクラスの概要
AIセキュリティクラスは名前の通り、AIに関するセキュリティについて学んだり考えたりするクラスでした。
講義では、機械学習モデル自体に関するセキュリティと機械学習モデルが引き起こす可能性のある問題の2つについて扱いました。前者は機械学習モデルの検知結果を狂わせる敵対的摂動(Adversarial Perturbation)と、その敵対的摂動に堅牢な機械学習モデルの作成方法について学びました。その後、実際に機械学習モデルを敵対的摂動を付与した敵対的サンプルで攻撃したり敵対的サンプルに堅牢なモデルで防御したりするCTFを実施しました。後者は、フェイクニュースのようにこれからAIが引き起こす可能性のある問題とその対策についてディスカッションを通して考えました。
これらの講義の中で、特に面白かった講義について少し話します。
特に面白かった講義
Dクラスの講義は4種類あったのですが、その中でも実践AIシステム Attack&Defenseが最も面白かったです。この講義は、画像のクラスタリング用の機械学習モデルに絞って、攻撃手法と防御手法を実践形式で学ぶ講義でした。
講義の前半は座学で、なぜ敵対的サンプルが機械学習モデルを誤認識させるのかという基礎的な話などを説明されました。後半は実践演習で、Google Colaboratory上でコードを動かしながら、検知精度(Accuracy)を80%から10%程度に落とすような敵対的サンプルの作成手法や、そのような敵対的サンプルにも堅牢なモデルの作成手法について学びました。参考になる連載記事が講義中で提示されていたので、もしよければご参照ください。
特に面白かったのは、その後に実施されたAttack&Defense形式のCTFでした。このCTFでは、各受講生が機械学習モデルを管理し、他の受講生の機械学習モデルを誤認識させるような敵対的サンプルを送りつけるAttackと、他の受講生から送られてくる敵対的サンプルに対して堅牢な機械学習モデルを管理し続けるDefenseがありました。私はAttack&Defense形式のCTFは初めてでしたし、CTF終了後の感想戦で各受講生の手法を聞いて学びがあったので、非常に面白かったです。
他の講義も面白かったのですが、それらの講義の感想は他の受講生が書いてくれると思います*1。そこで、私はチューターとしてどのようなことを意識していたかを書きます。
チューターとして意識していたこと
一言で言うと、2つの機能を有するbotになることを意識していました。
1つ目の機能は、受講生に補足情報を届ける機能です。これは、講義中に講師の方が仰った話に関連する情報等をシュッと投げる行為のことを指します。具体的には、講義中に「最近〜といった攻撃がありましたよね」と講師が仰った時に、それに関する記事をシュッと貼る、といったような振る舞いのことです。
私はセキュリティ・キャンプの全国大会に受講生として参加したことがあるのですが、当時はよく分からない単語や情報が出てくると講義中でもすぐに調べていました。講義中にすぐ調べていたので、その時調べないとすぐに忘れると思ったためです。その結果、その先の話を聞き逃すということが何度かありました。受講生にはこのような勿体ない経験をして欲しくないと考えていたため、講義で少し難し目の単語が出てきた時は補足や参考記事をシュッと貼るようにしていました。
本年度のセキュリティ・キャンプはオンライン開催であったため、展開される講義に対して非同期的に情報を提供することができ、チューターとしてこの振る舞いが非常にやりやすかったです。受講生のアンケートを見ないとまだ何とも言えませんが、少しでも良い効果があったのであれば幸いです。
2つ目の機能は、受講生の発言・問いかけに対してリアクションをする機能です。これはオンライン講義あるあるだと思うのですが、自分の発言に対して反応がないと発言者は不安を感じます。そのため、誰かが発した発言に対してはコメントで反応することを意識していました。
もちろん、音声で反応することもできたのですが、その場合講義の邪魔になる可能性もあると思ったので、今回は基本的にコメントベースで反応するようにしていました。これが助けになったかは分かりませんが、受講生の方々のサポートになったなら幸いです。
(チューター業務を)完走した感想
一言で言うと、かなり疲れました。やはり、5日間、朝の8:30から夜の20時まで集中して多くのことをインプット・アウトプットしただけあります。LT会でも発表しましたし。
とはいえ、受講生の皆さん、講師の方々や他のチューターさんの方がもっと疲れていたと思いますが。
一方で、その疲れを忘れさせてくれるほど、一部の講師陣やチューターさんと対面でお話できたのが良かったです。私含め一部の講師陣とチューターはオフラインで参加していたため、久しぶりのエンカイベントで非常に楽しめました。最近このようなイベントは昨年のCODE BLUE以来だったと思うので、最近モチベが停滞していた私にとっては本当にありがたい機会でした。
もちろん全ての講師やチューターの方々と話を出来た訳ではありませんが、私の実力不足に引け目を感じていましたし、どうせまた別のイベントでも話せる気がしたので一部の講師陣とは話さないようにしていました。そのような講師陣と同じ土俵に立てるようになるために、私の強みを磨いて行こうと今一度思いました。
おわりに
現在、私は修士2年生で来年就職予定なので、来年もチューターとして参加することは叶いません。そのため、仮にセキュリティ・キャンプに関わるとすれば、地方開催のセキュリティミニキャンプの講師枠として参加し、そこから権限昇格して全国大会の講師になることくらいしかできないと考えています。
そのために、まず手をたくさん動かすこと、そしてそれを外部で発表することが必須になってくると思います。昨年の振り返りにも書いた通りファーストキャリアとしてはソフトウェアエンジニアを目指す予定ですが、正直この先ソフトウェアエンジニアのスキルだけでは生きていけるとは思っていません。そのため、第二の刃としてセキュリティ系にも少し足を突っ込んでいれば良いかなと言う気持ちでいます。
とはいえ、直近ではそんなことよりも修士学生として卒業できるかが不安なので、学業に力を注ごうと思います。果たして私は無事に卒業できるんだろうか......
さて、最後の最後で完全に自分語りになっていしまいましたが、チューターとしての参加記録としてはこんな感じです。セキュリティ・キャンプ中に関わってくださった講師・チューター・受講生・そして関連者の皆様、色々とお世話になりました。また会う機会があれば、その時はよろしくお願いします。
*1:とても楽しみにしています！
