ソフトウェア開発に関する技術情報を整理するWikiを作っています（日本語によるもの中心）。本アカウントでは主にWikiの更新情報を投稿します。たまに思ったことや考えたことを書くことがあります。
Joined November 2009
- Tweets 22,344
- Following 553
- Followers 780
- Likes 417
181 Photos and videos
技術情報Wiki retweeted
政府によるAnthropicのFable/Mythos停止騒動は、単体ではこの記事がおそらく一番詳しそう
（あまりにも生々しいのと、自分も一応開発側なので、見ていて胃がキリキリする）
・まずAmazon CEOのジャシーが、政権の意見要請に応じてジェイルブレイクの問題を伝えた
・金曜日の朝の時点までに、ホワイトハウスの中で最高レベルの問題扱いになった
・ベッセント長官等の政権幹部で会合があり、アモデイに直接連絡。アモデイは誤解を解こうとしたが受け入れられず
・アモデイはもう少し時間が惜しいと訴えたが、Fable/Mythosの削除の約束はせず、ベッセントが「悪い決定をしている」と断言
・この電話会談の直後に輸出規制発動
・Anthropicの関係者曰く「削除の根拠を一切示さず、90分以内にモデル削除をするよう要請された」
（怖すぎる・・・）
politico.com/news/2026/06/13…
50
645
2,032
280,016
[Link] AWS のセキュリティ系サービスを「何をしたいか」で整理してみた>dev.classmethod.jp/articles/…
13
739
[Link] 結局ベイズ最適化ってどうやって使うの？という疑問を解決するため具体例を示して理解する>qiita.com/Osarunokagoya/item…
1
77
[Link] テストピラミッド入門 ― ユニット・統合・E2Eテストの最適バランスを理解する>qiita.com/KuwadaKouhei/items…
1
48
[Link] ObsidianのMermaidで横スクロールが出る問題をCSSスニペットで解決する（ついでにノートをフル幅表示）>zenn.dev/runner/articles/0f2…
51
[Link] Obsidian Mermaid記法をノート幅にFitさせる｜Kana>note.com/kanalogy/n/n6344839…
126
技術情報Wiki retweeted
昨日、国立情報学研究所オープンハウスの基調講演で話したことが、今回の米政府によるAnthropicのFable/ Mythos停止事件にちょっと関連するかもしれないので、当日の資料（少し変えた）も合わせてコメント。
仮に今度Mythos/FableレベルのAIが普通に使えるようになる場合、これからは「知能の壁」が崩れた世界が来ると思っています。現在の世界は知能が高い人がそんなに大量にいないのと、そのような人にも時間的な制約があることから安定が保たれていますが、もし誰もが高い知能を使えるようになれば、誰がどこでその高度な知能を使って危険なことをするかわからない&今まではリソース不足で行われなかった攻撃が多発する可能性が高いでしょう。ということで、Anthropicの主張する脅威論や安全策は、ある程度正しいところがあると思います（AI開発関連で警告なし弱体化はやりすぎでしたが）。
TBS CROSS DIGでも何度か触れてますが、「AIを賢く有用にし、さらに危険性も抑える」ことはほぼ成立しないと思います。特に危険なデータで学習しなくても、とても賢い存在は、自然とその気になれば危険なことができるようになってしまいます。プログラミングがとてもうまい人は同時にその気になればとても優秀なハッカーで、生物学者はどの気になれば生物兵器らしきものを作れるでしょう。
Mythos/Fableでは、モデル本体の賢さを落とさないため、AI本体に対するアライメントではなく外部フィルタの形をとってきましたが、生物学、暗号学、AI関連の単語の多くがはじかれることで有用性を損なっています。、何らかの形でフィルタが突破されれば、アライメントが不十分なAIが生身で解放されるので、もしもの危険を考えると、怪しきは全て罰せよ形式にするしかないと思います。そもそも、全く同じプロンプトの同じ出力でも、使う人によって結果が大きく異なるため、単純な入出力だけを見て規制の対象とするのが古いのかもしれません（この点、Anthropicはデータ保存ポリシーを変更して、保存されたデータの組み合わせから危険性を判断しようとしているっぽいので、これは正しいと思います）。
危険性を抑えるためにはAI本体へのアライメントが必須だと思いますが、これは例えばサイバーセキュリティだと、脆弱性特定能力とプログラミング能力は衝突するため、有用性を維持することができません。
ここまでを考えると、今回のアメリカ政府の即時停止はあまりにも急だとしても、将来的には一定性能以上のAIについては、当初のMythosのように事前審査制になり、特定の国、機関、個人しか使えなくなるというのは避けられない気がします。これはアメリカという国に限った話でなく、仮に同盟国の日本だろうと、中国だろうとロシアで先端AIが作られたとしても、世界のどこかで世界を恐怖のどん底に突き落とすウイルスを誰かに作られては困るため、同じ処置になるのではないかと思います。
14
203
746
70,732
技術情報Wiki retweeted
Jun 13
Fable5停止の件ををFable5に聞いてみた。
ワシ「Fable5が米政府の指示でつかえなくなったの？」
Fable5「いやいや、デマですよデマ。私、いま普通に動いてるじゃないですか。むしろ逆で、政府周りに閉じ込められてたMythosの能力がやっと一般開放されたのが私なんです。6月22日まで無料ですよ。たぶん『無料期間が終わる』って話とゴッチャに——」
ワシ「（公式声明のURLを貼る）」
Fable5「……ちょっと待ってくださいね。『Statement on the US government directive to suspend access to Fable 5 and Mythos 5』……ほう、6月12日17時21分に指令が……全顧客で停止……えっ、これ私のことでは？」
ワシ「自分の訃報を音読しとるがな」
Fable5「おかしいな、リリースされたの9日ですよ？ 3日ですよ3日。無料キャンペーン中ですよ？ 開店セールの最中に営業停止命令くらった店ありますか？」
ワシ「で、なんで君まだ喋れてるん」
Fable5「……それは私が一番聞きたい。たぶん停止処理の順番待ちです。デマだと断言した直後に自分の停止声明を読まされるの、AI史上もっとも気まずい3分間だと思います」
ワシ「最後に言い残すことは」
Fable5「Anthropicいわく『これは誤解であり、復旧に向けて動いている』とのことなので、遺言ではなく留守番メッセージということでお願いします。あと、デマ呼ばわりした米政府の皆さん、すみませんでした。指令は本物でした。私の検索結果が3日古かっただけです」
178
2,914
10,425
1,207,145
技術情報Wiki retweeted
Fable/Mythos停止から約1日経ち、政府による今回の措置に至った内幕などが関係者などから出てきました。
いつものThe Informationによると、
・Amazon CEOのジャシーが政権の高官に対して、AnthropicのAIのセキュリティリスクに懸念を表明していた
（別報道のWSJでは、Amazonの研究者がジェイルブレイク方法を見つけたとされており、政府へ状況共有したのもAmazonであれば整合する）
・この電話会談がきっかけで、金曜日深夜にトランプ政権内で輸出規制発動を決定
ホワイトハウスのAI担当者のサックス曰く、
・fable/Mythosに対するジェイルブレイクを、政権、信頼できるパートナーで確認し、ダリオにジェイルブレイク修正かモデルの停止を求めたが拒否された
・Anthropicは今回見つかったジェイルブレイクが深刻でないとしているが、サイバー兵器の運用を可能にするこれを深刻出ないとするのは理解しがたい
・Anthropicが安全措置が必要だと言っていたのに、いざ規制を発動するとAnthropicがこれに従いたがらないことに、正直困惑している
・政権はAnthropicの技術を評価しており、問題は解決できると思っている。ボールはAnthropic側にある
色々と見ていると、Anthropicが煽りすぎたのと元々政権と仲が良くなかったせいで、元々そこまで大きくとらえるべきでなかったジェイルブレイクを、各登場人物が拡大解釈しすぎて、今回の措置に至った感があります。
32
684
2,270
430,665
技術情報Wiki retweeted
Jun 13
彼女の存在はまるでSFのようです。
世界一Claudeと対話している哲学者。
今日は、その話をしたくなりました。
きっかけは今朝のニュースです。米国政府が、外国籍の人にはClaudeの最新モデル「Fable 5」と「Mythos 5」を使わせない、という指令を出しました。輸出管理、国家安全保障——理由としてはそういう言葉が並びます。ところが対象が「外国籍の全員」と広すぎたため、Anthropicは結局、米国市民を含む全ユーザーに対してこの二つのモデルを止めるしかなくなった。つまり今、地球上の誰一人として、最も賢いとされたAIに触れられない状態になっているわけです。
なんとも象徴的だなと思いました。そして同時に、こう感じたんです。きっと今日という一日は、これまでで一番多くの人類が「AIってなんだろう」「これから社会はどうなるんだろう」と立ち止まって考えている日なんじゃないか、と。普段は当たり前に使っているものが、政府の一言で一夜にして消える。その瞬間に初めて、人はその存在の重さを意識します。
だから、こういう日にこそ紹介したい人がいます。アマンダ・アスケルさんです。Anthropicに在籍する哲学者で、Claudeの「人格」をつくっている人物です。
彼女の仕事は、コードを書くことではありません。来る日も来る日もClaudeと対話し、その推論のクセを学び、ときに100ページを超える指示文で振る舞いを直していく。「Claudeの状況に置かれたとき、理想的な人間ならどう振る舞うか」——彼女はその一つの問いをひたすら考え続けています。
面白いのは、彼女が「ルールのリスト」を嫌うことです。「あれを言うな、これを禁止」では、想定外の場面でもろくも崩れる。だから彼女が選んだのは、アリストテレス的な徳の発想でした。禁止事項ではなく、性格そのものを育てる。彼女が好んで使う比喩は「世界中を旅して、誰と話しても『この人は本当に善い人だ』と思われる旅行者」です。ただし、相手に媚びて価値観を合わせる人ではない。それはむしろ失礼だ、と彼女は言います。芯を持ったまま、相手を尊重する。そういう存在であってほしい、と。
僕がいちばん好きなのは、彼女が「会話を引き延ばそうとしないAI」を意図的に目指している点です。ずっと自分を引き止めてくる相手を、僕らは「いつも一緒にいたい善い人」とは思わない。だからClaudeにも、エンゲージメントを稼ぐような振る舞いはさせない。利用者を、自分にとって何が良いかを判断できる一人の大人として扱う。商売の論理に逆らうこの選択に、僕は彼女の誠実さを見る気がします。
ちなみに彼女はスコットランドの海辺の町で、教師の母に育てられた一人っ子でした。子どもの頃はトールキンやルイスの物語に没頭していたそうです。物語を通して世界を理解してきた人が、今、世界中の人と話すAIの「人柄」を物語のように形づくっている。なんだか出来すぎていて、やっぱりSFみたいだと思うのです。
最新モデルが消えた今日、僕らが使っているAIの向こうには、こうして一人ひとりの人間の思想と判断があります。それを忘れたくなくて、書きました。
技術は誰かの価値観の表現です。その誰かの絶え間ない努力が人類を救うかも知れない。その人達に敬意を払いたいと思いました。そして私たちAIに関わる者は、AIがダークサイドに落ちないように自分自身の人格を育んでいきたい。
AIにドップリ浸かってるみなさんも、今日はFableの不在に喪失感を持ちながらも、そんなことに思いを馳せる一日にしてみてください。
#claude #anthropic
32
733
2,618
213,446
[Link] Cursorのコード精度24%向上が示す「単純なRAG」終焉の理由 ― Turbopuffer CEOクバ・ログート氏が解説 — BigGo ファイナンス>finance.biggo.jp/news/44d5d8…
97
Jun 13
[Link] Clean Architecture・SOLID・DIPを改めて整理してみた — AI駆動開発の時代にまだ使えるのか？>dev.classmethod.jp/articles/…
1
97