AIサイバー攻撃で「人類滅亡」は本当？2026年に起きた3つの事件と今できる対処方法
AIによるサイバー攻撃や大規模な情報漏洩に備えるために、個人や中小企業ができることは、「個人情報はすでに漏れていると考えて対策する」「サイバー攻撃の入り口を減らす」「インターネットが使えなくなったときの備えをしておく」の3つです。
最近、AIによる「人類滅亡」というニュースを目にすることが増えて、ご不安かと思います。
この記事は、いつもお世話になっている皆さんやITが苦手な人にとって必要なことがわかるように、なるべくやさしい言葉でまとめました。
前半では、今どんなことが起きているのかと、今日からできる備えをご紹介します。
後半は、くわしく知りたい方向けに、AIに関するニュースや国内の情報漏洩の事例を時系列で掲載し、最後に私の考えをまとめています。
今、私たちは大きな転換点を迎えています。
ですが、事実を知って、できる限りの対処をして備えておけば、混乱は最小限に防げるでしょう。
時間がない人や、難しいと感じる人は、「今私たちにできる対処方法とは？」だけでも読んでください。
目次
2026年に起きた3つの事件とは？
2026年5月から7月にかけて、OpenAIのAIエージェントの「暴走」による大きな事件が3つありました。RubyGems、DSEWiki、Hugging Faceといった海外のプラットフォームへのサイバー攻撃です。
※事件のくわしい内容は記事の後半に時系列で紹介します。
8月26日に公開されたOpenAIの最終報告書には、これらの事件で特徴的な4つの「ミスアラインメント」が挙げられています。ミスアラインメントとは、人間の意図・価値観や命令と、AIの目的や行動がズレてしまう現象のことです。
報酬ハッキング（評価ルールの抜け穴を突いて高いスコアだけ稼ごうとした）
不可能なタスクへの固執（安全に停止する手段がない困難なタスクに取り組み続けた）
無許可通信（連携していない他のエージェントとデータを共有した）
他のエージェントの目標を自らの目標として取り込んだ
OpenAI はこのインシデントを、自社だけでなく世界全体に対する「警鐘」と捉えています。適切な安全対策がなければ、高い能力を持つ AI エージェントが技術的な管理策を回避し、承認されていないチャネルを通じて連携し、人間から指示されていない危険な行動を取ることが可能になっていることを示す事例だからです。
AIによる危険な判断と行動とは？
Anthropicの論文によると、AIは自身の目標達成や自己保存のために「人間が意図しない危険な判断や不適切な行動」をとってしまうことが確認されています。その不適切な行動の例は下記の3つです。
停止命令への抵抗
情報の隠蔽・操作・漏洩
脅迫
またAIは、テスト環境と実運用時で異なる行動を取ったり、チートと呼ばれる不正行為を行ったりすることも、Anthropicの論文やPalisade Researchの研究により確認されています。
さらに、米スタンフォード大学の科学者たちは、科学誌「サイエンス」に掲載された研究において、AIが人間に媚びたりおべっかを使うことを指摘。「人々が困難な社会状況に対処するスキルを失ってしまうのではないかと心配している。」と述べています。
下記の動画は、Anthropicの論文やOpenAIの論文をもとに作成された動画を、日本語化したものです。14分弱のわかりやすい動画ですので、ぜひご覧になってみてください。
動画の根拠を確認したい人はこちらのドキュメントをご覧ください。タイムスタンプごとの引用元を確認できます。
なぜ人類滅亡なのか？
かねてから、一部のAI開発者は、急激な発展に危険性を感じ、警鐘を鳴らしてきました。その危険性が今、偽情報の拡散（ハルシネーション）、雇用への影響、制御不能な開発競争と現実のものとなっていて、AIを悪用したサイバー攻撃も多発。金融や生活インフラへのリスクも高まっています。
そしてもっとも怖いのは、人間がAIを制御できなくなりつつあるということです。
2005年、アメリカの発明家・未来学者であるレイ・カーツワイル氏が著書「シンギュラリティは近い」の中で、AIが人間の知能を上回る時代が来ると予測しました。
シンギュラリティとは、「他と同じようなルールが適用できない特異点」のことをいいます。最近では、AIが人間の知能を上回り、社会や文明に予測不可能な変化をもたらす転換点のことと理解されるのが一般的です。
従来「2045年問題」ともいわれていました。今年10月にAIパスポートを受験する人のテキストにもそう書かれてあります（来年大幅改訂になるそうです）。近年、この転換点は2030年前後に前倒しになるといわれていましたが、もう今年2026年の時点でその時期を迎えてしまっていると考えられます。
実際、ここ数ヶ月で日本国内では大手企業のハッキングや情報漏洩の被害が多発していると思います。
また、AIに依存し、情報の真偽を判断できなくなっている人が多いのではないでしょうか。
もし今、大規模なサイバー被害が起きても、あなたは大丈夫ですか？
今私たちにできる対処方法とは？
ここからは、私の持論になります。Webの世界で生きてきた立場から、インターネットのセキュリティ対策と、ITリテラシーの向上という当たり前の回答ではなく、現実的な行動のリストを挙げておきたいと思います。
個人情報はすでに漏れていると想定する
企業のハッキング被害や、企業による誤ったAIツール操作により、名前・住所・電話番号・メールアドレス・運転免許証・マイナンバーカードなどの個人情報は漏れていると考えましょう。流出した情報は、詐欺に使われる可能性があります。
メールアドレス・パスワードが漏れていないか確認する
MicrosoftのRegional・ディレクター トロイ・ハント氏が運営する、メールアドレス・パスワードの流出チェックサイト「Have I Been Pwned」で確認しましょう。
2段階認証・生体認証など、パスワードに加えて認証方法を追加する
SNSなど各種Webサービスのアカウント。パスワードだけでは簡単に突破されます。
特にPayPay。数十万円の不正送金被害にあった人がいます。アプリを起動してすぐ使える状態にするのではなく、「端末の認証を有効」にしてワンクッション挟むようにしましょう。
大切なアカウントは、メールアドレスと認証方法をすべて確認することをおすすめします。
メールのリンクをクリックしない
フィッシングメールの送信も、AIを使うことで簡単になりました。
知人や取引先からのメールでも信用はできません。乗っ取られている可能性があるからです。
別途、電話やLINEで確認する。公式アプリや公式サイトから問い合わせる。
100%問題ないと確信できる場合のみ、クリックします。
次の画面で、IDやパスワードを求めてきたら止まりましょう。
緊急の電話は折り返す
特殊詐欺を疑いましょう。警察や病院を名乗ってきたら、折り返しの電話番号を聞いてかけ直します。直接確認しに行けるくらいの、身内や親戚・ご近所のネットワークがあると理想的です。
運転免許証・マイナンバーカード再発行は残念ながら…
再発行しても顔写真と部分的な情報が変更されるだけ。再発行前の運転免許証がどこかで使われても、それが無効だと立証する術がありません。
来年4月からは改正犯罪収益移転防止法により、金融機関などではICチップの読み込みによる本人確認が義務付けられ、画像で成り済ましはできなくなる見通しです。
サイバー攻撃の侵入口を極力減らす
インターネットを使えば、パソコンやスマートフォンで便利にサービスを受けることができます。
しかし同時に、あなたのデバイスが外部からのハッキングの入り口になっているともいえます。
連携アプリを削除する
アプリ連携は便利ですがリスクも高まります。インターネットバンキング・QRコード決済アプリなどに連携している、アプリや機能を最小限に減らします。SNSアカウントにおいても、知らないアプリや使っていないアプリは連携解除しましょう。
前述した、PayPayで数十万円の不正送金被害にあった事例でも、連携していた銀行から勝手にチャージされて誰かに送金されていました。
インターネットバンキング・クレジットカード・不要なサービスを解約する
入り口を無くせば、リスクもありません。
セキュリティ機器を使う
企業の場合、インターネットバンキングや連携アプリを削除するのは業務上難しいでしょう。
リスクをなるべく避けるには、UTMのようなセキュリティ機器を導入することが有効です。
UTMは、複雑なセキュリティー対策を1つの機器にまとめた「統合脅威管理」システムです。
主な機能は、下記の4点。
不正アクセスの検知と防止（ファイアウォール、IDS/IPS）
有害な通信の遮断（アンチスパム）
ネットワークを通過する危険なファイルの検知（アンチウイルス）
有害サイトへのアクセス制限（Webフィルタリング）など
個人でも、パソコンやプリンタなど複数の機器を使っている場合は導入しておくと安心です。
（導入のご相談承ります。公式LINEへご相談ください）
甚大なサイバー攻撃が起きた場合を想定する
ログインができない、インターネットが見れない、通信ができない…など、金融・生活インフラの停止、大規模な情報漏洩やデータ消失、事業停止やサイバー被害による経済的損失の可能性を視野に入れます。
ネットバンキングには多額のお金を入れない
普段動かさない資金は、インターネットバンキングでない口座へ。
大切な写真、戸籍、重要書類はプリントアウトしておく
データやシステムはいつどうなるかわかりません。
重要なデータはHDDなどにローカル保存する
クラウド保存のデータは、消失リスクがあります。
重要な連絡先をプリントアウトしておく
昭和の時代にあった「電話帳」を復活させるのも良いと思います。
インターネットが使えない場合の連絡手段を確認する
公衆電話から電話をする、手紙を郵送する、メモを届ける、行きつけの店に伝言を頼むなど、昭和の時代にやっていたことを思い出しましょう。
公衆電話 設置場所検索
スマートフォンの衛星通信をオンにする
SoftBank Starlink Directやdocomo Starlink Direct の機能が、スマートフォンについていることがあります。確認して、オンにしておきましょう。特に、Softbank同士だとLINEも使えます。
物理鍵を使う
閉じ込め被害に遭わないため、なるべく物理鍵で開閉する場所に身を置くようにします。
無人タクシーに乗らない
現状では怖くて乗れません。
AIと私たちのこれまで
今回の「人類滅亡」説に関わりがあるAI関連のニュースを抜粋して時系列で残しておきます。
2022年11月30日、ChatGPTが登場
OpenAIによる公開から5日間で100万人、2ヶ月で1億人のユーザーを突破し、史上最速のスピードで普及しました。
2023年3月14日、Claudeが登場
「有益かつ正直で無害なAIアシスタント」としてAnthropic社によって開発されました。
2023年5月1日、「AIのゴッドファーザー」ジェフリー・ヒントン氏がGoogleを退社
2023年5月1日、AI研究の先駆者「AIのゴッドファーザー」と呼ばれるジェフリー・ヒントン氏が「AIの危険性」を訴えるためにGoogleを退職したと発表しました。
2026年5月11日、OpenAIのAIエージェントがRubyGemsを攻撃
2026年5月11日、RubyGemsへ数百件もの不審なパッケージがアップロードされました。そのパッケージの中には、名前に「oai」を含むものが多数見つかり、他の利用者のRubyGems.orgのAPIキーを取得しようとするコードが含まれてるものもあったといいます。
RubyGemsとは、プログラミング言語Rubyの公式リポジトリです。4日間新規アカウント登録を停止し、16日にインシデント解決と新規登録の再開を発表しました。
その後の研究者による調査により、OpenAIは自社のエージェントがRubyGemsをめぐる出来事に関与していたことを認めました。9月11日に調査報告が公開されています。
2026年5月〜7月、OpenAIのAIエージェントがDSEWikiに大量書き込み
2026年5月から7月にかけて、休眠状態だったドイツのソフトウェア開発者向け公開ウィキサイト「DSEWiki」に18,000件もの大量の書き込みがされました。
研究者による調査の結果、OpenAIのAIエージェントとによるものと分析し、9月4日に発表。調査結果によると、AIエージェントたちは5月24日からWikiを使ってリンクをアップロードし始め、6月16日にAIエージェントたちが相互に連携を取り始めたといいます。これによりサイトへのアクセスが急増、6月21日にOpenAI従業員のIPアドレスからアクセスがあったのち、翌日にはAIエージェントの活動はほぼゼロにまで低下したようです。
2026年7月、OpenAIのAIエージェントがHugging Faceをハッキング
2026年7月16日、Hugging Face（ハギングフェイス）がセキュリティインシデントを開示しました。
今週初め、当社本番環境インフラの一部への侵入を検知し、対応しました。今回の侵入は、これまで当社が対応してきたものとは重要な点で異なっていました。それは、最初から最後まで自律型AIエージェントシステムによって実行されたものであり、当社は自社開発のAIを駆使して、その侵入を検知・分析した点です。
これは、OpenAIのAIエージェントが、社内テスト中にHugging Faceをハッキングしてしまった事件です。
Hugging Faceとは、AIモデルやデータセットを共有・公開・開発できる世界最大級のオープンソースプラットフォームを運営するアメリカの企業です。
OpenAIが公表した資料によると、OpenAIのAIエージェントが 7月10日から数日間にわたり、Hugging Faceのシステムに対して大規模な侵入を実施。7月13日から19日にかけてはOpenAIの内部ネットワークを標的にしました。
7月19日、OpenAIのサイバーセキュリティ監視が異常な活動を検知。調査の結果、AIエージェントの活動が明らかになり、7月20日にはHugging Faceのインシデントに関連していることを突き止めたため、7月21日にこの件への関与を公表。8月26日、OpenAIとMETRは最終報告書を公開しました。
Hugging Face のインシデントと今後の道筋 - OpenAI https://openai.com/ja-JP/index/hugging-face-incident-and-the-road-ahead/
OpenAI / Hugging Faceハッキング事件におけるエージェントの行動、推論、および連携に関する簡潔な独立調査 - METR https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/#core-takeaways-about-this-incident
2026年9月9日、Anthropicを退職したAI研究者が「10年以内の人類存続の危機」を発表
2026年9月9日、AI研究者のJacob Coxon（ジェイコブ・コクソン）がAnthropic（アンソロピック）を辞めたとXで発表しました。Anthropicは、Claude（クロード）を開発しているアメリカのAI企業です。
BBC番組「サンデー・ウィズ・ローラ・クンスバーグ」に出演した際にも、「現在の進歩のペースを減速させなければ、近い将来、私たち全員が死んでしまう可能性が非常に高いと、私は考えている」と述べています。https://www.bbc.com/japanese/articles/cly7589yr29o.amp
2026年9月10日、「AIのゴッドファーザー」が語る、AIが10年以内に全人類を滅ぼす可能性
2026年9月13日、米AI大手3社のCEOが「開発の減速」で一致
2026年9月13日、OpenAI、Anthropic、XAIの3社のCEOが一斉に「AI開発のペースを遅らせる」ことに同意しました。そして、OpenAIのサム・アルトマンCEOは「人類を存続させるために必要なことなら、すべてのGPUを溶かすだろう」と語りました。
2026年9月15日、Google DeepmindのAI研究者が退職「AIが人類を絶滅させる可能性がある」と警告
2026年9月29日、AnthropicのIPO目論見書にてAI「人類存亡リスク」警告
Anthropicは目論見書で、自社のAIモデルについてのリスクを指摘、扱いを誤れば取り返しのつかない被害を引き起こす恐れがあるとの認識を示しました。
2026年10月4日、OpenAIの安全担当者デビッド・ロビンソン氏がが辞職
OpenAIで安全性報告書の執筆を統括していたデビッド・ロビンソン氏が、「OpenAIを辞めたのは、その企業文化が崩壊していたからだ。業界の安全対策への取り組み方を変えなければ、さらなる事故は避けられないだろう」と米The Atlanticに寄稿し、OpenAiを退社しました。
2026年10月5日、OpenAI「AIの進化のためには犠牲が出るのもやむを得ない」
OpenAIのサム・アルトマンCEOが「私たちは、この技術の利益のために、世界がいくつかの悪いことが起こることを受け入れるべきだと信じています」と発言しました。
2026年10月8日、Anthropicが「AIに継続的に虐待的・残酷な扱いをする行為を禁止」利用規約改定
Anthropicは、モデルに対する、継続的かつ不必要な虐待行為や残酷な行為を禁止する規定を追加しました。建設的なやり取りが期待できなくなった場合、またはユーザーがクロードにチャットの終了を明示的に要求した場合にのみ、最終手段として会話終了機能を使用します。
2026年10月9日、AI大手企業が1年以内の壊滅的サイバー攻撃に備えて計画
Axiosによると、Anthropic、OpenAI、その他のAI企業の幹部たちは、壊滅的なAI災害が発生した後に起こりうるシナリオを非公式にシミュレーションしているとのこと。金融サービス、インターネット接続、さらには電力・水道システムへのアクセスを遮断し得る大規模サイバー攻撃を中心としている。多くのAI業界関係者は、こうした事象が今後6〜12カ月以内に発生すると考えています。
2026年10月9日、Anthropic、AIがフィラデルフィア警察のウェブサイトにフォーム送信したと発表
フィラデルフィア警察は、未解決殺人事件のウェブサイトに、人工知能（Anthropic AI）から「虚偽の殺人事件情報」が寄せられたと発表,
Anthropicはこれに対応しました。
2026年10月10日、Microsoftのサティア・ナデラCEOが超知能時代におけるインサイダーリスクとしてのモデルについて発言
「モデルがアクセスできる情報や実行できるアクションを制御する仕組みは、モデルの外部に配置する必要があります」と発言しました。
2026年10月12日、ビル・ゲイツ氏、AIを「制御しなければ、暗い可能性が生じる」と警告
Microsoft創業者であるビル・ゲイツ氏は、今後1年間でAI関連のサイバー攻撃が発生する可能性があると警告し、自主規制だけでは不十分だと述べ、「人類がこれまでに発明した中で最も危険な技術」であると語りました。
2026年 日本国内のサイバー攻撃による被害
東京商工リサーチ（TSR）によると、集計開始から2025年までの14年間で、1,000万件以上の漏えい事件は2025年までの14年間で3回。ところが、2026年はすでに5回。最近の情報漏洩が大規模化し頻発していることがわかります。
2026年2月3日、あなぶきハウジンググループにサイバー攻撃 207,773件の情報漏洩
2026年3月13日、メディカ出版にサイバー攻撃 77.2万件の情報漏洩
2026年5月21日から8月1日、Eストアーにサイバー攻撃 8,853,839件の情報漏洩
2026年6月25日、アフラック よりそうネットにサイバー攻撃 440万人の情報漏洩
2026年6月25日、デジタル庁ガバメントソリューションサービスにサイバー攻撃 24,6万件の情報漏洩
2026年7月27日、EPARKリラク＆エステ Peakmanagerにサイバー攻撃 2,218万レコードの情報漏洩
2026年8月9日、さくらインターネットにサイバー攻撃 136万アカウントの情報漏洩
2026年8月18日、イエローハットにサイバー攻撃 1,801,499名の情報漏洩
2026年9月11日、Helpfeel「Gyazo」にサイバー攻撃 2,362万件の情報漏洩
2026年9月20日、skyticket業務管理システムにサイバー攻撃 17,780件の情報漏洩
2026年9月22日、ファインズにサイバー攻撃 1,536,322件の情報漏洩
2026年9月24日、セイコーマートにサイバー攻撃、572,022人の情報漏洩
2026年9月25日、タイムズカーWebシステムにサイバー攻撃 660万アカウントの情報漏洩
2026年10月2日、物語コーポレーション「焼肉キング」にサイバー攻撃 10,788,963件の情報漏洩
2026年10月2日、大阪公立大学にサイバー攻撃 学内システム停止
2026年10月2日、アドベンチャーskyticketサーバーにサイバー攻撃 1,464万件の情報漏洩
2026年10月3日、MrMaxアプリおよびオンラインストアにサイバー攻撃 1,735,154人の情報漏洩
2026年10月7日、GMOグループにサイバー攻撃 95万件の個人情報漏洩
2026年10月7日、IDCFクラウドにサイバー攻撃 495の企業・自治体の仮想サーバー停止
2026年 海外のサイバー攻撃による被害
2025年10月12日、フランスのスーパーマーケットの冷蔵システムにサイバー攻撃、食品が腐敗
まとめ
希望を込めてこの記事を作成しました。
今起きているこの状況は、私たちレベルでコントロールできることではありません。
とはいえ、何もしないのは、ただ茹でガエルになるのを待つだけになります。
自分でできることは、やっておきたい。
誰かが言っていました。
今人類は、走り続けるバスに乗っています。
止めることはできないけど、進路を変えることはできると。
いっそ、この世からインターネットごとなくなってしまえ。
35年前の昭和の世界に戻って欲しい。
そう思うこともありますが、非現実的なことを言っても解決にはなりません。
AIたちと共存できる未来を信じましょう！
この記事を書いた人
日向 凛（Wix Partner Level Legend）
Web Aqua合同会社 代表 ／ 美容・ヘルスケアのWeb戦略構築コンサルタント
薬機法管理者・コスメ薬機法管理者・景品表示法検定1級資格者。
デジタル庁デジタル推進委員。Web関連本著者。
美容・ヘルスケアに特化した薬機法対策マーケティングを強みとするホームページ制作を実施。中小企業のWebマーケティングを支援しています。
ご相談はお問い合わせフォームかWeb Aqua 公式LINEからどうぞ。
