敵はいるのか?人工知能が本当に必要なセキュリティとは

IT・IT製品TOP > Key Conductors > キーマンズネット 編集部(アイティメディア株式会社) > 敵はいるのか?人工知能が本当に必要なセキュリティとは
この記事をtweetする このエントリーをはてなブックマークに追加

IT現場の道先案内人 Key Conductors

敵はいるのか?人工知能が本当に必要なセキュリティとは

ネットワークセキュリティ 2016/06/24

 人工知能は人間の仕事を奪い、いずれは人間の存在そのものをも駆逐する。機械が登場した頃から語られてきた終末論が現実になるかどうかは別として、少なくとも人間の学習能力をコンピュータで再現する技術の1つ、機械学習やディープラーニングはGoogleやIBMを始めとする大手企業によって、ここ数年で劇的に進化を遂げた。単純作業を肩代わりし、より生産的な業務を支援する域には十分到達している。IoTの普及と併せて、多種多様なモノが自動で最適な判断を行い、より便利な世の中になるのだろう。

 だが、一方で危惧されるのは、人工知能に対する依存度の高まりだ。日常生活から経済活動まで、あらゆるものが人工知能に頼る時代が来たとき、その人工知能に脆弱性が発見されて攻撃されたらどうなるのだろうか。

 「Interop Tokyo 2016」のパネルディスカッション「「人工知能の敵」〜人工知能は完全なるセキュリティの夢を見るか 人工知能への攻撃の可能性を検討する〜」でも、そんな熱い議論が繰り広げられた。

世界中で高まる人工知能への関心

 セキュリティの知識や技術力を競うCTF(Capture the Flag)などのコンテストではここ数年、機械学習や自動化の技術を攻撃や防御に取り入れる傾向が見られる。

 今年8月に開催される、DARPA(米国の国防高等研究計画局)の「Cyber Grand Challenge」では、完全自動化されたソフトウェアプログラムがリアルタイムに既知および未知の脆弱性を発見、パッチ適用し、その速度や性能を競い合う。優勝チームは、翌日から開催されるハッカーカンファレンス「DEF CON 24」のCTFへの出場権が与えられ、世界各国の予選を勝ち抜いてきた人間チームと激突する。DEF CON 24の今年の副題は「Rise of the Machines」(マシンの台頭)。人工知能に近づくマシンへの攻撃の可能性は、いま最も熱いトピックの1つだ。

世界的なトレンドでもある人工知能をセキュリティの観点から考えるパネルディスカッション

※会員登録いただくと図をご覧いただけます。
会員登録はこちら(無料)

世界的なトレンドでもある人工知能をセキュリティの観点から考えるパネルディスカッション

どんなデータを人工知能に食わせるかが分かれ道になる?

 ディスカッションの冒頭で、長崎県立大学でサイバー攻撃の自動検出などを研究する松田健氏は魚を飲み込んだクラゲの写真を見せて、「人間がこの写真を見た場合、新種の魚だろうか、それとも加工画像だろうかとさまざまな推論を組み立てる。

 これを人工知能にやらせるには、本物の生き物の画像や加工画像の特徴を数値化してパラメータとして保持し、新しいデータを取り込みながら更新をかける必要がある」と述べ、「現状では回答パターンをいくつか用意するか、人間っぽい答え方を覚えさせるしかない」と吐露。私たちが想像するような人工知能は、まだまだ先の話と現状を整理した。

 日本アイ・ビー・エムの大津留史郎氏も、「IBM Watsonでも、いかに正しい情報、または企業にとって適切な情報を学習させるかが業務活用でのポイント」と明かす。

長崎県立大学 情報セキュリティ学科 准教授 松田健氏

※会員登録いただくと図をご覧いただけます。
会員登録はこちら(無料)

長崎県立大学 情報セキュリティ学科 准教授 松田健氏

 IBMでは、Watsonを人工知能ではなく「コグニティブインテリジェンス」と位置づけており、何かを判断・解釈するプロセスをWatsonが行うことで、人間による創造的なイノベーションを支援する機能としてさまざまな分野で活用されている。典型的な利用シーンは、コールセンターやチャットによるヘルプデスクだ。ソフトバンクはコールセンターでWatsonを採用し、正答率は90%を超える結果を出しており、みずほ銀行は人型ロボット「Pepper」を使った宝くじの照会応対を提供開始している。

 「課題は、適切な回答を設定するための工数がそれなりに必要という点だ。というのも、同じ業界でも用語に方言があり、結局は顧客ごとにインスタンスを作らなければならないからだ。標準化された用語でも、人や出身地によって解釈が異なるものもある。これをWatsonに覚えさせるのは、結構手間がかかる」(大津留氏)

日本アイ・ビー・エム エグゼクティブ・アーキテクト 大津留史郎氏

※会員登録いただくと図をご覧いただけます。
会員登録はこちら(無料)

日本アイ・ビー・エム エグゼクティブ・アーキテクト 大津留史郎氏

 先日、同社はクラウド型セキュリティサービス「Watson for Cyber Security」を発表。2016年内にベータ版を提供する予定という。

 「このサービスも、インプットされたデータから攻撃の判別を助ける情報を提供する。ネットをクローリングしてこれらデータを収集させることも可能だが、正確で有用なデータを収集できる必要がある」。そうと述べた大津留氏は、現在マサチューセッツ工科大学やウォータールー大学などと協力してWatsonを鍛えているところと説明した。

人工知能のセキュリティ対策はこれからの議論

 「インプットされるデータがいかに重要かはよく理解できた。つまり、学習するデータやパラメータを汚染することが攻撃になるということだろう。また、学習が必要なデータセットを業界ごとに用意した場合も、時代の変遷とともにデータセットのメンテナンスが必要になるが、その権限を奪えば人工知能を操ることも可能だ」。サイバー大学教授で国内最大規模のCTF大会「SECCON CTF」実行委員である園田道夫氏は、人工知能および機械学習のセキュリティ上の課題を指摘した。

サイバー大学教授 情報処理推進機構研究員 SECCON実行委員(事務局長) 園田道夫氏

※会員登録いただくと図をご覧いただけます。
会員登録はこちら(無料)

サイバー大学教授 情報処理推進機構研究員 SECCON実行委員(事務局長) 園田道夫氏

 「新しい技術や革新が起こったとき、最初はそれをどう活用するかといった機能要件に注目が集まるが、使われ始めると今度は非機能要件の重要性が語られるようになる。セキュリティは非機能要件に分類され、今はまだ取り上げられることも少ないが、今後は真剣な議論が増えてくると思う」(大津留氏)

 園田氏は最後に、議論の続きを来年1月頃に開催予定の「SECCON CTF」のカンファレンスにて取り上げたいと会場に約束した。その頃には、人工知能や機械学習などへの攻撃手法や脆弱性がより具体的になっているのだろうか。人工知能のセキュリティ対策に関する動向を、今後も注視していきたい。

                              (執筆者:谷崎 朋子)

会員限定で「読者からのコメント」が読み書きできます! 「読者からのコメント」は会員限定の機能。会員登録を行い、ログインすると読者からのコメントが読み書きできるようになります。

会員登録(無料)・ログイン

Myリストへ 印刷用ページへ

この記事をtweetする このエントリーをはてなブックマークに追加


この寄稿記事に掲載している情報は、掲載日時点での情報となります。内容は変更となる場合がございますのでご了承下さい。また、「Key Conductors」の寄稿記事及び当該記事に寄せられたコメントについては、執筆者及びコメント投稿者の責任のもと掲載されているものであり、当社が、内容の最新性、真実性、合法性、安全性、適切性、有用性等を保証するものではありません。


30009017


IT・IT製品TOP > Key Conductors > キーマンズネット 編集部(アイティメディア株式会社) > 敵はいるのか?人工知能が本当に必要なセキュリティとは

このページの先頭へ

キーマンズネットとは
キーマンズネット編集部スタッフです。よろしくお願いいたします。キーマンズネットは企業・法人のIT選定・導入をサポートする総合情報サイトです。IT初心者から上級者まで、みなさまのさまざまなニーズにお応えします。

ページトップへ