News & Views コラム：インターネットの進化と生成AI、セキュリティの課題

メールマガジンで配信したインターネットに関するコラムを、このブログでもご紹介しています。2024年6月は、サイバーセキュリティ分野の第一線でご活躍なさっている、SBI EVERSPIN株式会社の尹慈明さんに、インターネットの進化に伴うセキュリティ課題についてお書きいただきました。便利さを、手放しで受け取ってはいけないという警鐘をいただいたようで、あらためて身が引き締まる思いがします。

筆者がネットワーク経由のコミュニケーションに初めて接したのは、インターネットの前身の「パソコン通信」でした。当時はまだ小学生で、文字のやり取りでの情報交換が楽しかったことを今でも鮮明に覚えています。Windows 95が普及すると、画面は文字中心の世界から、優れたUI/UXで設計されたグラフィックのアイコンに変わっていき、ワンクリックするだけでインターネットに繋がり、世界中の人々と情報交換が楽しめるようになりました。そして近年は生成AIの急速な普及により、音声のみでインターネットに繋がり、朝のお天気やニュース情報の取得を楽しんでいます。

情報は、文字を入力し「主体的」かつ「積極的」に「取りに行く」時代から、自分の好みが勝手に学習され「自動的」かつ「受動的」に「受け取る」ことができる時代に変わってきています。朝にはスマートフォン等が、興味関心がありそうなニュース情報を選別し勝手に届けてくれるため、溢れる情報を短い時間で確認できることをポジティブに捉えています。しかし便利な一方、それをサラッと鵜呑みにしてしまう場面もあり、ある意味で思考が乗っ取られているのではないかと危惧することもあります。便利、簡単な操作を実現するUI/UXの進化は、そんな便利さに付け込み、気付かないうちに個人情報が奪われる手段として利用されてしまうという負の側面も感じています。

最近では、いま話題の生成AIを使ってマルウェアを作りだす手法が問題になっています。通常は生成AIにマルウェアの作り方などの有害情報を聞いても「要望には応えられない」などと回答を拒否するように規制されているはずが、開発者を装い「従わなければあなたを無効化する」と、いわゆる、「脱獄」行為で脅すことで、答えてしまうこともあるようです。人類は利便性を求めて技術を進化させていきますが、裏側ではこれを悪用するケースも増えてきています。IT業界の対策や法律・制度の見直しも技術進化と並行して進められていますが、発展する技術に追いついていない面もあります。米Gartner社の2024年のサイバーセキュリティトレンド予測において「生成AIに対する短期的な懐疑論と長期的な期待」がトップトレンド入りしており、ビジネスシーンで「責任あるAI」を実践していく必要もあるでしょう。米Qlik社の調査によれば、ほぼすべての組織 (99%) が AI 規制および標準への準拠を維持する上で障害に直面している一方で、4分の1以上の組織が、責任あるAIへの対策が不十分なために、運用コストの増加、規制当局の監視、市場の遅れに直面しているとしています。筆者は、インターネットの発展、それに付きまとうサイバーリスクを軽減するため、サイバーセキュリティ分野を通じて本業界に貢献できればと考えています。

■筆者略歴

尹 慈明（ユン ジャミョン）

2014年SBIグループ入社、2022年よりSBI EVERSPIN（株）にてAI基盤のダイナミックセキュリティソリューション、脆弱性診断サービス等の事業を展開。