生成AIとサイバーセキュリティ
2023年6月に掲載した「正しく使おうChatGPT セキュリティの観点から」（https://www.securebrain.co.jp/blog/2023/0626/ ）という記事から半年が経ちました生成AIは依然として進化を続けています。AIは、以前は未来の技術と考えられていましたが、今では私たちの身近な存在となっています。
1.生成AIを利用する上での注意点
生成AIに関するセキュリティリスクについて、一般の利用者の視点からは「情報漏えい」と「誤った情報の取得」が主な懸念事項です。たとえば、「情報漏えい」の場合、生成AIに個人情報やプログラムのソースコードなどを入力した場合、入力した情報が学習されてしまうことで意図せず外部に流出してしまうリスクがあります。また、「誤った情報の取得」は、生成AIが提供した誤った情報を正確なものと誤解するケースも考えられます。こうした状況に対処するために、企業内で生成AIの利用に関する適切なガイドラインやルールを策定し、不正利用を防ぐ努力が行われています。
2.攻撃者から見た生成AI
生成AIの活用による業務の効率化などが期待される一方で、サイバー攻撃を企てる悪意ある者にとっても、生成AIは便利なツールとなっています。例えば様々なセキュリティ企業や研究者がフィッシングメールの作成や、マルウェアなどの攻撃ツールを作成・支援に生成AIを悪用することが可能であると警鐘をならしています。また、一般の利用者が利用する生成AIは通常、不正利用を防ぐための制約が設けられていますが、攻撃者によって制約を回避する手法が編み出されては、制約を強化するといった攻撃と防御のイタチごっこが生成AIにおいても繰り広げられています。また、制約のない攻撃に利用することを前提とした生成AIが公開されており、それらを悪用した犯罪行為が今後増加する可能性が懸念されています。
3.攻撃を防御する私たちからみた生成AI
ITの進化の生い立ちのようでもありますが、攻撃者が生成AIを有効なツールとして活用する一方で、私たち防御する側でも生成AIを防御に活用する取り組みが積極的に行われています。
生成AIを活用した、セキュリティインシデントに対応するためのツールの開発などは積極的に行われており、MicrosoftのSecurity Copilotのように実用化されているものも存在します。今後、様々な企業でも生成AIを活用したセキュリティ技術の開発が進むことで、より一層効果的なプロセスの確立にも寄与することが期待されます。また、生成AIを用いてフィッシングサイトの検出に関する研究も行われており、その成果として98%以上の精度でフィッシングサイトを識別できるという報告があります。この様に、生成AIは防御側にとっても大きなメリットをもたらす技術です。
4.常に基本的なセキュリティ対策を見直す意識が重要生成AIの注意点
生成AIのもたらす攻撃者・防御者それぞれのメリットについてまとめました。では、AIが当たり前になりつつある現在、身の周りのセキュリティは大きく変わるのでしょうか？攻撃も防御もオペレーションが自動化・効率化されていくことは明らかですが、AIもあくまでツールであり、万能ではありません。
一方で、攻撃者は失敗しても攻撃を繰り返すことで成功を目指しますが、防御側はそう簡単にはいきません。防御に失敗すれば、機密情報や顧客情報が漏洩してしまうことになり、それは大きな問題です。
攻撃の高度化・効率化が進んでいることを認識することも重要ですが、より重要なことは自社のセキュリティリスクを見直し、対策を再評価し、基本的なセキュリティ対策を怠らないということが重要です。脆弱性をなくす、不正を早期に検知して対応するというセキュリティ対策の基本は変わりません。常に基本的なセキュリティ対策を見直す意識が最も重要といえます。
セキュアブレインは、サイバー攻撃から企業を保護する様々な製品・サービスを提供しています。「セキュリティ診断サービス（ITインフラ/Webアプリ/ソースコード診断）」は、専門家による診断で、お客様のサーバーやWebコンテンツに潜む脆弱性を洗い出し、サイバー攻撃対策を支援します。また、日々発生するWebサイトの脆弱性対策として、Webサイト自動脆弱性診断サービス「GRED Webセキュリティ診断 Cloud」、Web改ざん対策として、「GRED Web改ざんチェック Cloud」を提供しています。GREDシリーズは、検査するWebサイトのURLを登録するだけで、サービスの開始が可能です。Webサイトのインシデントを自動監視することで、安全なWebサイト運営を支援します。これらのサービスで、自社のセキュリティリスクの見直しにご活用いただければ幸いです。
セキュアブレイン製品・サービス一覧はこちら
https://www.securebrain.co.jp/products/index.html
セキュアブレインのサービス・製品についてのお問い合わせは以下よりお願いします。
https://www.securebrain.co.jp/form/service/inquiry_input.html
