La reflexión de David Cerdá no trata en realidad sobre la suspensión de su cuenta en X. Trata mas bien de la progresiva evaporación de lo humano en las estructuras contemporáneas. Su experiencia concreta -el hackeo, la imposibilidad de hablar con una persona real en X, la sanción automatizada de la víctima- funciona como símbolo de una transformación civilizatoria. Lo inquietante no es el error técnico; los errores y las burocracias injustas siempre han existido. El nuevo horror es la desaparición del interlocutor.
Antes, incluso en una administración torpe, había un rostro. Alguien podía equivocarse, pero también podía comprender, captar excepciones, contextos o sufrimientos concretos. Un algoritmo en cambio sólo administra patrones; clasifica, sí, pero no comprende. Puede que ahí esté el núcleo del problema. Las sociedades modernas construyen sistemas eficientes para procesar información, pero radicalmente incompetentes para reconocer la singularidad humana. Así, las personas se convierten en expedientes dinámicos o en anomalías estadísticas. Y si el sistema falla sólo quedan formularios y respuestas automáticas. La referencia de Cerdá a Kafka es exacta. En Kafka, el horror no es un tirano visible, sino una autoridad inaccesible e impersonal. Nadie decide, pero todo sucede. Nunca habíamos tenido tanta conectividad y, al mismo tiempo, nunca había sido tan difícil encontrar presencia humana dentro de las grandes estructuras. Se diría que el progreso técnico aumenta mientras decrece la capacidad de escucha. Y esto no afecta sólo a las RRSS. Aparece en bancos, universidades, empresas donde RRHH ya no conoce a las personas, administraciones públicas... El gran conflicto del siglo XXI quizá no sea entre el hombre y la máquina, sino entre la persona y el sistema.
Ninguna decisión grave que afecte a la identidad pública o derechos de una persona debería quedar en manos automatizadas. Tiene que existir la posibilidad de revisión humana. Las plataformas deberían garantizar la trazabilidad y explicabilidad. Si una cuenta es suspendida, debe saberse por qué, quién lo decidió y cómo apelar. La opacidad tecnológica es incompatible con una sociedad libre. Más nos convendría no entregar toda la identidad pública a plataformas privadas que no controlamos, lo que exige cierta "ascética digital". Si construimos instituciones incapaces de comprensión o delicadeza moral, acabaremos siendo extranjeros en el mundo que éstas están creando. No, el riesgo no está ahora en que la IA piense o sienta, sino en que las organizaciones dejen de pensar humanamente. Y la solución habrá de ser ética. Una civilización no se reconoce por la potencia de sus sistemas, sino por su capacidad de detener la máquina si alguien está siendo triturado en ella.
@elonmusk
gaceta.es/opinion/red-social…