加速する 生成AI の進化と活用例・起こり得るリスクとは？

2025/02/12 セキュリティ対策

公開日 2025年2月12日 ｜ 最終更新日 2025年2月12日

生成AI には様々なリスクがあります。OpenAIのChatGPTに続き、MicrosoftのCopilot、GoogleのGeminiなど、生成AIが次々とリリースされています。

会話型の生成AIが話題になり、AIといえばデスクワークのイメージが強くなっています。けれども、AIは工場や建設現場などさまざまな分野で取り入れられ、AI処理をクラウドではなく、ローカル（エッジ）側で処理できる「AI PC」も注目されています。

また、生成AIが出始めた当初は、リスクを考え業務に生成AIを利用することを禁止する企業もありましたが、どの企業も生成AIで業務改善を図る方向に転換しています。ただし、リスクがなくなったわけではありません。どのようなリスクがあり得るのか、確認しておきましょう。

AIの概要

人工知能（AI: Artificial Intelligence）という言葉が生まれたのは、1956年のダートマス会議で、ジョン・マッカーシー教授が提案したものだといわれています。1950年代後半～1960年代の第一次AIブーム、1980年代からの第二次AIブームを経て、2000年頃からの第三次AIブームが現在まで続いています。

第三次AIブームでは、「機械学習」が中心になっています。機械学習は、入力されたデータからコンピューターがパターンやルールなどを発見して、それに基づいて新たに取得したデータに関する識別、予測などを可能にしました。

AIの技術は日進月歩です。今ではまだ難しい、コストがかかりすぎると言われていることでも、1年後には実現しているかもしれません。高齢化によって作業者の不足が問題になっている分野をはじめ、あらゆるところでAIの利活用が期待されています。

さまざまな分野でのAI活用例

製造業

製品の品質検査や工場内の異常検知など、いろいろな場で活用されており、工場の完全自動化やロボットの協業なども行われるようになってきました。

品質管理

画像検査AIによって製品の外観異常を検知する方法がとられています。従来、人の目で行っていた、製造中に生じた不良品の検出をAIが自動で行うことによって、人材不足の問題を解決できます。また、感染症拡大や災害などの事情で工場に検査担当の従業員が出社できなくても、製造ラインが止まることは防げます。

予知保全

製造のための機械が異常を起こすとラインを止めざるを得なくなり、損失につながりかねません。機械が故障するタイミングやリスクを事前に感知することでダウンタイムを防ぎます。

その他

製造業では需要予測や倉庫管理などにもAIが用いられたり、生産ラインの無人化を確立させたりといったことが実行されているところもあります。

建設・建築現場

深刻な人手不足を抱えている建設・建築などの現場ではAI活用が進んでいます。施工工事にロボットや自走機械、ドローンを導入し、施工や監視などを人がいなくてもできるソリューションが開発されています。

また、新人の施行者がウェラブルデバイスを用いて、AIや遠隔の熟練者の指導を受けながら作業するといったことも行われています。

農業

高齢化が進む農業でも、AI活用は大きな期待が寄せられています。

自動運転のロボットトラクターによる耕うん作業をはじめ、AIで水田の水量を計測して自動で水量の調整をしたり、AI画像解析で農作物の生育状況を把握したりということが行われています。

害虫や病気の発生を検知して自動で薬を散布する、AIによる収穫量の予測する、といったことなどにも利用されています。

医療・介護

厚生労働省は「保健医療分野におけるAI活用推進懇談会」で、AI開発を進めるべき重点領域として以下の6点を挙げています。

ゲノム医療

ヒトの遺伝情報（ゲノム）は約30憶塩基対の数で構成されていて、その変異によって疾患の原因になることが分かっています。AIの活用で変異箇所を短時間で見つけることができるようになり、遺伝子変異に基づく診療が実用化されつつあります。

画像診断支援

レントゲンなどの画像診断での見落としなどの低下が期待されています。

診断・治療支援（検査・疾病管理・疾病予防も含む）
生命科学の論文は年間で100万点以上が公表されるのですが、医師が日常の業務をこなしながら新しい論文を読みこなし、最新の知見を把握するのは難しいことです。そこで、AIによってデータを解析し、診断・治療支援にすることが期待されています。

医薬品開発

医薬品が市場に出るまでに長い年月とコストがかかります。そこで、AIを用いたビッグデータの解析などで創薬支援につながることが可能になると考えられています。

介護・認知症

介護ロボットにAI技術を不可し、被介護者の生活の質向上につなげることが期待されています。また、高齢者の動きなどから、認知症の早期発見にもつなげることが研究されています。

手術支援

手術ロボットはすでに実用化していますが、さらに精度が高い手術支援が行えるよう、AIの活用が考えられています。

物流

過去のデータをAIで分析し、物流量を予測して人員配置に役立てています。これにより、業務の効率化を図り、コスト低減につなげています。

検品作業や倉庫管理にもAIは利活用されています。

小売業・サービス業

カスタマーサービスでAIチャットボットが対応したり、店頭での受付業務などをAI搭載ロボットが行ったりという事例があります。

金融・保険業

与信調査、クレジットカードの不正利用にAIが用いられています。また、他社のサービスとの差別化を図るためにデータ分析などを行っています。

 

ユーザー数無制限で月4万円！法人向け生成ＡＩ活用 | ナレフルチャット

詳細はこちら：https://hypervoice.jp/knowlefulai

 

加速するAIの進化 AI PCの可能性を考察する

AI PCとは何か

生成AIなど高度なAI処理をローカルPC上で実行する能力を持っているPCのことを「AI PC」と呼び、既存のPCとは差別化した製品展開をするメーカーが増えています。高度なAI処理には高いコンピューティング能力が要求されるため、これまで生成AIなどの処理はクラウドで実行し、ユーザーは処理の結果を受け取るという方式が一般的でした。しかし、AI処理に特化したプロセッサを搭載したAI PCがあれば、AIをローカル（エッジ）側で実行できるようになります。

AI PCには高度なAI処理に特化した機能を持つ「NPU（ニューラル・プロセシング・ユニット）」と呼ばれる新しいタイプのプロセッサが搭載れています。AMDでは「Ryzen AI」と呼ばれるNPUを搭載した「Ryzen Pro 7040シリーズ」をリリースしていますし、インテルが昨年末に発表した新しいCore UltraプロセッサにもAIを高性能かつ高い電力効率で処理できるNPUを内蔵しています。もちろん、他の半導体メーカーもNPU開発に力を入れています。そして、これらのNPUが搭載されたエンジンを積んだPCが、今後は市場に多く投入されていくことになるでしょう。

用途に応じてAI処理を実行する場所を選ぶようになる

明確な基準があるわけではありませんが、「PC」つまりパーソナルコンピュータと呼称されていることからもわかるように、多くのメーカーはAI PCをビジネスユーザーやパーソナルユーザー向けのラインアップでリリースしています。搭載されるプロセッサの値段が高いため、当分の間はハイエンドモデルに限定されてしまうとは思いますが、少なくともサーバーやワークステーションのような価格帯の製品にはなりません。高性能ではあるものの、クラウド上で利用可能なGPUなどAIに特化したコンピューティングのように強力な能力を持っているわけではないのです。

このことからわかるのは、今後は目的に応じてAI処理を実行する場所をユーザーが選択するようになるということでしょう。たとえNPUを搭載したAI PCを使用していても、すべてのAI処理がローカルで実行できるわけではないので、大量のデータを用いた大規模なAI処理はこれまで通りにクラウド上で実行する必要があります。

アプリケーションの充実がカギ

自明ではありますが、AI処理を実行するアプリケーションがなければAI PCもただのPCです。そのため、今後は画像やテキストなどの生成、画像処理、監視カメラや温度センサーなどのセンシングデータ処理、翻訳などをローカルで処理するアプリケーションが数多くリリースされることになるでしょう。

AI処理を実行するアプリケーション側でも、ローカルで処理するのかクラウドで処理するのかを使い分けることができるようになっていくことが予想されます。たとえばMicrosoftが提供しているAI機能であるCopilotはクラウド上で高度なAI処理を実行していますが、今後はローカルPC上で実行するかクラウドで実行するかを状況に応じて使い分けるようになるかもしれません。

強力なAI処理を実行するアプリケーションが登場すれば、AI PC上で実行できることも増えていくことになるでしょう。結果としてプロセッサを始めとするハードウェアの処理能力も、今よりもっと高度なものが求められるようになります。このようにソフトウェアとハードウェアがお互いを刺激することで、ますますAI関連の技術の開発が活発化していくことが期待されています。

また、今はAI PCが注目されていますが、スマートフォンやIoTデバイスなど小型のデバイスでも同じような動きがあります。たとえばSNSに投稿する写真にプライバシー情報が映りこんでいた場合、自動でぼかしを入れるなどの機能をデモンストレーションしているメーカーも登場しています。

 

ユーザー数無制限で月4万円！法人向け生成ＡＩ活用 | ナレフルチャット

詳細はこちら：https://hypervoice.jp/knowlefulai

生成AIのユーザーに起こり得るリスク

大手電子製品メーカーの事例

2023年3月、韓国の大手電子製品メーカー従業員が機密度の高い社内情報をChatGPTに入力し、それが社外に漏れるという事故が起こりました。半導体セクションでChatGPTの利用を許可したところ、設備情報が2件、会議内容が1件流出してしまいました。

その後、韓国の大手電子製品メーカーでは、ChatGPTに上げるデータを1,024バイトに制限するという緊急措置を行っています。

生成AIを使うと、そのデータはAIを置くクラウド上に保管されます。ChatGPTの場合は、OpenAIがその情報を保持していることになります。プロンプトのデータは学習データとして用いられますから、ほかのユーザーが生成AIを利用したときに、元のデータが類推されることが起こりうるのです。

業務で生成AIを使うのであれば、社内専用のクローズド環境で利用できる生成AIもリリースされていますので、そういったものを利用する、あるいは使用制限を設ける、機密情報や個人情報は決して入力しないなどの対策を行う必要があるでしょう。

また、学習データに既存の著作物を使用している生成AIもあるため、意図せず既存の作品に酷似したものができてしまい、著作権侵害として訴えられるリスクも生じます。

このあたりの著作権などの法律はまだ整備されていませんが、生成AIで作ったものを商用で用いる場合、似た作品がないかよく確認しなくてはなりません。

一般的に気をつけなくてはならないのはディープフェイクです。生成AIはもっともらしい虚偽情報を簡単に作れます。2024年1月には、テイラー・スウィフトのフェイクポルノ画像がSNSで拡散され、各メディアで大きく取り上げられました。

生成AIに限ったことではありませんが、情報は信頼できるところから得ることが、より強く求められるようになったともいえます。

AIサービス提供者のリスク

インターネット上で収集できるデータの中には、いかなる理由があっても二次使用を禁じているものがあります。もし、生成AIを開発・提供する企業が使用を禁じられたデータを利用してAIに学習をさせた場合は、著作権の侵害にあたります。

生成AIの作成したディープフェイクが問題になるケースでも、AIサービス提供者がやり玉に挙げられることは十分に考えられます。AI提供者は速やかにその対応を講じなければならない状況にあります。

また、生成AIを狙ったサイバー攻撃「プロンプトインジェクション」の問題も生じています。AIに入力する内容によっては、そのAIが持つ脆弱性を見つけることにつながることがあり得ます。開発者が意図していない内容の質問をチャットに書き込むことで起こります。

2016年にAIチャットボット「Tay」がヘイト発言を行うようにった事件が起こりました。アメリカの匿名掲示板「4chan」「8chan」の一部ユーザーたちが意図的にヘイト発言を入力することで、「Tay」がヘイト発言を学習してしまったわけです。これも一種のプロンプトインジェクションです。

現在の生成AIは過去のケースを考慮して開発されていますから、同様のことは起きにくくなっているはずです。ただ、サイバー攻撃者はあの手この手で悪質なプロンプトを入力しようと試みるでしょう。

一般ユーザーには直接関係ありませんが、このようなリスクが生成AIには生じるということは頭に入れておいたほうがいいでしょう。

社会全体で考えるべきこと

世界に先駆け、2023年6月にEU欧州会議本会議で、ヨーロッパにおけるAI規則案が採択されました。アメリカや日本でもAIについての法整備が進められています。

上記で挙げたような著作権、あるいは特許法、商標法、意匠法、不正競争防止法、肖像権、パブリシティ権などあらゆる権利侵害での訴訟が今後起こる可能性があります。

逆に、生成AIが生成したものに著作権は生じるのか、ということも議論されています。

見破るのが難しい精巧なディープフェイクが拡散されることも増えるかもしれません。確かな情報であるかを見極めて、安易に拡散しないように努めなければならないでしょう。

さらに、生成AIを利用して悪意のあるプログラムを作成するなど、サイバー攻撃の温床になってしまうリスクも指摘されています。あらゆることを想定し、その対策を社会全体で考えていくことが求められています。

あらゆる企業の情報セキュリティ対策を支援！
【情報セキュリティの専門部隊】ハイパーのセキュリティア推進部の詳細

まとめ

・第三次AIブームでは機械学習の技術で飛躍
・ローカルでAI処理を実行するアプリケーションの充実がカギになる
・生成AIは、ユーザー、開発・提供者それぞれにリスクがある

 

ユーザー数無制限で月4万円！法人向け生成ＡＩ活用 | ナレフルチャット

詳細はこちら：https://hypervoice.jp/knowlefulai