言い方はだいぶ失礼だけど、これは常日頃から自分も主張してた。
直接会った人は僕の口から聞いたことある人もいると思う。
囲碁にしても何にしても、比較対象が人間だから「人間よりまし」が超知能の印になる。しかし囲碁は最適解が計算量的に見つからないが、存在するとしたとき、その存在とAIの導く手は一致していないと思う。
無論囲碁やチェスにフォーカスするもグローバルミニマを見つける必要がゲームとして無いから良い。
けど物理世界で自律するAIは、物理法則そのものを誤りなく扱わなきゃいけない。このゲームの中では、下手くそな人よりマシ、では許されない。そもそも産業ロボは最初から人間より強い。一寸も狂わぬ精度を、特定の目的のためだけに作り込んだから。
物理法則下で最適に動作するAIの対戦相手は、最初から人間ではないところにあったりする。
だから人間よりマシ、というゲームとは別の概念で知能を語らないといけない。知能の最高到達点は人間ではない。
これはPhysical AIの文脈でよく言ってた。そういう意味でイーロン・マスクは経済的にはすごいけど、自動運転を人間の構成にこだわる(ビジョンオンリー)だったりするのが、なんだかなぁと思う。もちろんビジョンオンリーは安価なので商売としてはそれで済ませたいのはそうなのだけど。
Yann Lecun published the most heretical AI paper of the year.
He opens by arguing Magnus Carlsen isn't good at chess and only gets more unhinged from there.
The Turing Award winner and his co-authors dropped a paper demanding the AI industry abandon its biggest obsession, AGI.
Right now, everyone from Silicon Valley CEOs to politicians assumes AGI is the ultimate goal. A machine that can do everything a human can do.
LeCun argues that this entire concept is a biological illusion.
Humans do not possess "general" intelligence. We are highly specialized biological machines, tuned by evolution simply to survive in the physical world.
We only think our intelligence is "general" because we are completely blind to the millions of cognitive tasks we are incapable of comprehending.
Which brings us to the chess argument.
Magnus Carlsen is the greatest human chess player in history. But compared to a modern computer? He is fundamentally terrible.
Our belief that Carlsen is "good" at chess is pure human-centric bias. He isn't objectively good. He's just better than the rest of us, who are biologically awful at it.
LeCun says we need to stop building AI to mimic human generality.
Instead, he proposes a new North Star: SAI.
Superhuman Adaptable Intelligence.
Instead of trying to build a machine that mimics our flawed, biologically-limited brains, we need to embrace extreme specialization.
SAI is about the speed of adaptation.
It is an intelligence that can learn to exceed humans at any specific, economically important task.
More importantly, it is designed to fill the vast skill gaps where humans are fundamentally incapable.
Things like managing global energy grids in real-time. Or predicting complex molecular structures.
The entire AI industry is obsessed with building a digital reflection in our own image.
LeCun's paper is a brutal wake-up call.