Algunas reflexiones urgentes sobre la crisis de
#anthropic con la Casa Blanca:
1. Se acabó la política de Laissez Faire de Estados Unidos respecto del libre desarrollo de la IA. Los modelos avanzados tendrán que pasar por el aro de un sistema de controles previos. Esto ralentizará el ritmo de los desarrollos y potencialmente puede perjudicar a quienes han invertido grandes cantidades de capital.
2. Anthropic ha cultivado su percepción como los “good guys” de la IA. Claude es el modelo del que empresas, gobiernos y usuarios pueden fiarse. Se negaron a ceder su tecnología al Pentágono sim condiciones. Se han aliado con el Vaticano -no de modo formal- para defender el concepto de una IA con criterios humanísticos. Al mismo tiempo no podemos negar que han sido los grandes apostoles del Apocalipsis de la IA.
3. Por eso, Anthropic y su líder Dario Amodei han puesto el listón tan alto que sus aspiraciones pueden terminar siendo un peso demasiado grande para la compañía. Si te pasas el día metiendo miedo a los gobiernos, y después tus decisiones las tomas en solitario y sin respetar a la Casa Blanca y a otros actores, es justo que se te mire como un profeta interesado. Para mí ese es el mayor error que está cometiendo la compañia: la percepción de autosuficiencia. Pueden tener buenas intenciones, no lo dudo. Pero si no se dejan ayudar por terceros y nos piden que les creamos siempre y en todo, la reputación de “good guys” se convierte en un arma para sus enemigos.
4. Lo que me ha convencido del punto 3 es la acritud de Amazon. Amazon ha sido quien ha dado el aviso al gobierno de los fallos de seguridad de Fable. Pero NO TIENE NINGUN INCENTIVO para actuar así. Es uno de los socios mayoritarios de Anthropic-$50B comprometidos- y aloja los modelos Claude en sus servidores, obteniendo con ello unos ingresos descomunales. O sea, tu socio prioritario es el que te acusa. Eso no tiene sentido sin antes haber compartido la información con tu partner. Ningún sentido.
5. Estoy persuadido de que hay un cierto deseo de atacar a Dario Amodei tanto desde el Gobierno como desde la industria. Como he contado en un vídeo reciente, Anthropic está ganando a todos, y eso molesta y da mucha envidia. Y sus constantes apelaciones a la ética tampoco gustan porque dejan en mal lugar a los demás. Por eso creo a Anthropic cuando señala que otros modelos de la competencia tienen problemas de seguridad similares.
6. Creo que esta crisis se resolverá pronto. Pero quedan en el aire algunas cuestiones: Dario Amodei y Anthropic deben abandonar su pretensión de que confiemos en ellos en todo sin discusión. Les vendrá bien un poco de humildad. No creo que los inversores pidan la cabeza de Amodei, pero no estoy del todo seguro.
7. Cuando el uso de la IA mas avanzada depende de las decisiones de un Gobierno, es lógico que todo el mundo empiece a plantearse alternativas. ¿Open Source? Es una posibilidad. Pero ese territorio lo domina China. Y dudo mucho de que cuando los modelos chinos alcancen el nivel de Fable, su gobierno les permita exportarlo. En el caso d Europa, no nos podemos permitir depender de las dos superpotencias para usar este recurso. El problema es que nuestros líderes se van a dar cuenta cuando ya es demasiado tarde.