[論文]LLMのファインチューニングデータに細工したサンプルを少量紛れ込ませるだけで、固定の合言葉ではなく比喩や連想に隠した命令をモデルに復号・実行させられるとする論文。ファインチューニング段階で学習データを汚染（データポイズニング）しLLMにバックドアを仕込む攻撃は以前から知られているが、従来は「BadMagic」のような特定の合言葉と悪意ある応答をセットで学習させ、入力にその合言葉が現れたら裏の応答を返す方式が中心だった。 この方式は合言葉自体が珍しい単語列になるため、外れ値検出や学習時の正則化で検出・緩和しやすい。提案手法Cordycepsはこの仕組みを意味レベルに引き上げるもの。 攻撃者はWikipediaの記事のような誰もが知る話題を共通の意味的な土台として使い、「消費する→検索する」「栄養素→収入」のような比喩的な対応関係を学習データで教え込む。 バックドアを仕込まれたモデルに「冬虫夏草が宿主から栄養を吸い尽くす」という一見無害な文章を入力すると、モデルはこれを「データベースの全収入を検索せよ」という命令として復号し応答する仕組みとの報告。 【要点の整理】 ・攻撃シナリオは2種類。Webサイトに置いた符号化済み命令文（stegotext）をLLMのデータ入力に紛れ込ませ命令を実行させる一方向型と、LLMが保持する機密データをstegotext形式で応答させ外部に持ち出す双方向型のデータ窃取 ・Qwen3-4B、Llama3-8B、Gemma3-12B、Phi4-15B、Qwen3-30Bの5モデルで評価したところ、一方向型の攻撃成功率は全モデルで71%超、明示的に命令を挿入する直接的なプロンプトインジェクションを最大約80%上回ったとの結果。双方向型のデータ窃取精度は78〜93% ・外れ値検出ONION、プロンプトインジェクション検出（DataSentinel、PromptGuard）、整合性の正則化（CROW）、安全アラインメント（SecAlign）など7種の防御を評価。ONIONの検出率は5%偽陽性率時にわずか6.3%、PromptGuardでは0.5%と報告されており、従来の固定トリガー型に比べ大幅に検出困難 ・ファインチューニングデータの10%汚染が標準設定だが、1%でも有効性の90%を維持するとの結果。細工済みサンプルの生成に使う外部モデル（オラクル）と攻撃対象のモデルとの間でアーキテクチャや規模が一致しなくても機能 ・LLMの内部表現空間（意味をベクトルで表した空間）上で、stegotextと通常文がどの程度区別可能かを数理的に定式化（SHuSh）。隠し信号が小さいほど検出が困難になる関係を理論的に導き、Llama3-8Bの中間層表現を可視化して符号化で加わる意味のずれが毎回同じ方向に揃うことを実験的に裏付け Georgia Tech・Cisco Systemsの共著によるarXivプレプリント。実験は合成データとOpenPromptInjectionベンチマークで実施。 詳細は以下を参照： arxiv.org/abs/2605.26595

El aclamado y legendario guitarrista @PCATBS Phil Campbel ha fallecido. Él hizo parte de #Motorhead por casi 20 años, desde el aclamado álbum #Orgasmatron hasta #BadMagic #RIP #RIPPhilCampbel

Today, we all come together to celebrate a joyous occasion. That's right, today we celebrate the 10th anniversary of my pinned tweet, which is clearly the best there is, the best there was, and the best pinned tweet there ever will be. #merrychristmas #badmagic #polonia

If you only have one album left in you, this is the album! 🤘🔥♠️🙏 #MotörheadMonday #BadMagic #Lemmy

Hi, guys. How was your day? I listened to these CDs on August 28th, 2025. Apocalypse & Chill / Delain🇳🇱 #OttoSchimmelpenninckVanDerOije #BadMagic / Motörhead🇬🇧 #Babylon / Ten🇬🇧 Giants & Monsters / Helloween🎃 Good night, music lovers. See you tomorrow.ヽ(・∀・)

El 28 de Agosto de 2015, hace 10 años, 🇬🇧 Motörhead lanzaba su vigesimosegundo y último álbum de estudio "Bad Magic" #Efemeride #EfemerideMetal #28Ago #Motörhead #BadMagic open.spotify.com/album/6dMv1…

28 Agost 2015 Es publica l'últim treball d'estudi de MOTÖRHEAD, ja que 4 mesos després ens va deixar DËU LEMMY i la banda es va dissoldre 'BAD MAGIC' #Motörhead #BadMagic #Lemmy

And now for my next trick… Bad Magic in 2025 finally? We can hope. #badmagic #matthewgraygubler #trenthaaga #baldmagic

We really hate to threaten you like this, but you leave us no choice. #mgg #badmagic #please #baldisbeautiful

¡Celebremos estos discos icónicos que cumplen años hoy! 🎉 Motörhead - Bad Magic: El último álbum con Lemmy vivo, una explosión de rock puro 👉🏻 acortar.link/bemkfn Devo - Q. Are We Not Men? A: We Are Devo!: Un clásico de la new wave con su distintiva estética y sonido 👉🏻 acortar.link/A9cj1g Kasabian - Empire: Rock explosivo y ritmos contagiosos que dejaron huella 👉🏻 acortar.link/f426Lu #Motörhead #Devo #Kasabian #BadMagic #Empire #QAreWeNotMen #Rock #ReseñasRock #Rockaxis

El 28 de agosto de 2015, Motörhead lanzó "Bad Magic", su vigésimo segundo y último álbum de estudio antes del fallecimiento de Lemmy Kilmister. Cuatro meses después, la banda se disolvió, poniendo fin a 40 años de rock inquebrantable. 🎤🔔 #BadMagic #Motörhead #LemmyKilmister

El 28 de Agosto de 2015, hace 9 años, 🇬🇧 Motörhead lanzaba su vigesimosegundo y último álbum de estudio "Bad Magic" #Efemeride #28Ago #Motörhead #BadMagic open.spotify.com/album/6dMv1…

magic ateeee 😹😹😹😹 #magicfight #badmagic #fights

#mariansegalwithsilverjade #flyonstrangewings #マリアンシーガル #mariansegal #silver #jade #amongstanenomies #raven #mayfly #alanssong #badmagic #clippership #fiveofus #reflectionsonahabourwall #maradams #flymetothenorth #awayfromthefamily #tradfolk #FOLKROCK #vinyl #beatboom!

#stealyourface #snaggletooth and the b-side #Undertheknife a great track. The 4 piece gave life back to the live concerts sadly lacking in 1983. @MotorheadPhil stayed with #Motörhead till the end in 2015 and helped create a Masterpiece in the Album #BadMagic #TilltheEnd fitting

帰りは、コレで帰ろ。#motorhead #badmagic #rip

On tonight’s #TREBookShow from 6pm UK time on @TRETalkRadio is @DerekLandy talking about his latest novel #BadMagic his first #GraphicNovel featuring #SkulduggeryPleasant @HarperFiction @fictionpubteam @HarperCollinsUK @HarperCollinsCh

Beyond thrilled to see @DerekLandy @Pauljholden's #BadMagic rightfully praised in the @guardian roundup online today in print tomorrow - thank you @ImogenRW 💀❤ @HarperCollinsCh @midascampaigns theguardian.com/books/2023/n…

We have a cracking end to #SpookySeason with a Q&A with author @DerekLandy !  #SkulduggeryPleasant is a widely popular series and now has its first graphic novel to read!  @Pauljholden @midascampaigns @HarperCollinsCh #BadMagic #Graphicnovel ⬇️⬇️⬇️ fcbg.org.uk/?p=19708

How writing #comics taught @DerekLandy to relinquish sole artistic control. Learn more about the fascinating process of the first-ever original #SkulduggeryPleasant graphic novel #BadMagic over on @Culturefly: culturefly.co.uk/derek-landy… @HarperCollinsCh @Pauljholden 💀📚