外注先が同じなら、似たような結果しか得られないのは、当然と言える。
すべての学生がGPT-4にエッセイを外注し、すべてのプログラマーがCopilotにコードを外注し、すべてのマーケターが同じAIにキャッチコピーを外注する。
個々を見れば、どれも減点のない、それっぽい成果物だ。しかし、全員が同じ統計モデルという外注先を共有しているため、市場や教室に出回るアウトプットは不気味なほど均質化する。
プロンプトによる差別化は表面的なカスタマイズになっても、本質的な意味領域の拡張にはならない。LLMという巨大な多次元の統計空間(過去のデータの圧縮物)の中から、指定された条件に合う確率のルートを、ただトリミングしているだけだからだ。
「もっと創造的にするよう促したり、連鎖的思考(CoT)プロンプトを使ったりしても、同質化の効果は残った」
サイコロの振り方をどれだけ工夫しても、サイコロの目の総数自体が増えるわけではないのだ。
さらに、自分だけの秘密のプロンプトを作って差別化しようとするレース自体が、新自由主義的なプラットフォームのアルゴリズムに一瞬で回収される。
「こうプロンプトを打てば、他と違う成果物が出る」
というハックの手法が見つかった瞬間、それはSNSでバズり、まとめられ、最終的にはAI自身が『最強のプロンプト』を生成し、誰もがボタン一つで使える機能としてシステムに取り込まれる。
他者と差別化するための独自のノイズ(創造性)を効率化の名のもとにドブに捨てた結果、残るのは誰もが同じように賢く、誰もが同じように凡庸な、価値ゼロのコモディティ空間だけだ。
Students without access to LLMs are 2 to 8 times more creative than students with access.
That is the finding of a new paper comparing 2,200 college admissions essays written by humans before ChatGPT with essays generated by GPT-4.
The key point is not individual creativity. GPT-4 can write well, sometimes better than individual students. The problem is collective creativity.
Each new human essay added new semantic territory. New ideas. New angles. New experiences. New combinations.
Each new GPT-4 essay added much less.
The authors call this the diversity growth rate: how much novelty each additional text contributes to the collective pool of ideas.
Humans kept expanding the pool. GPT-4 made the pool converge.
Even when the authors pushed GPT-4 to be more creative, changed parameters, or used chain-of-thought prompting, the homogenizing effect remained.
This is the real danger of AI in education.
Not that students will write worse.
That everyone will write the same.
*
Full paper in the first reply