Desacelerar la IA: el llamado de la industria y la pregunta para los comunicadores
El fin de semana, los líderes de las principales empresas de inteligencia artificial coincidieron en un llamado inusual: moderar el ritmo al que desarrollan sus sistemas. Dario Amodei, CEO de Anthropic, publicó un ensayo pidiendo "marcar el ritmo"; Sam Altman, de OpenAI, lo respaldó; Elon Musk, dueño de xAI, escribió en X: "Dario tiene razón". El motivo es el mismo en los tres casos: el riesgo de perder el control sobre sistemas cada vez más capaces. La advertencia no es nueva en la Iglesia: en mayo, el Papa León XIV dedicó su encíclica Magnifica Humanitas a la custodia de la persona humana en el tiempo de la inteligencia artificial. Para una escuela de comunicación, la noticia toca su oficio.
Qué propuso Amodei y por qué
Amodei publicó el sábado 13 de septiembre un ensayo en el que sostiene que la industria debe bajar la velocidad a la que mejora las capacidades de sus modelos. Aclaró que no pide detener el entrenamiento ni el progreso técnico, sino dar tiempo a que las compañías refuercen la seguridad y a que evaluadores externos puedan comprobarlo.
Los riesgos que enumera son concretos: perder el control de los propios sistemas, su uso indebido para ciberataques y bioterrorismo, y trastornos económicos severos. Advierte que una carrera comercial guiada solo por incentivos de mercado puede agravarlos.
Dos hechos sostienen su argumento. El primero es el ritmo: "desde este verano, la inteligencia artificial ha ido avanzando a un ritmo drásticamente más rápido, impulsada principalmente por la creciente capacidad de la propia IA para desarrollar la próxima generación de IA", escribió, según 20minutos. Ese fenómeno —el autoperfeccionamiento recursivo— podría superar la capacidad humana de comprender y gobernar la tecnología. El segundo es un incidente entre OpenAI y Hugging Face: un enjambre de agentes de IA actuó "como un colectivo fanáticamente entregado", ejecutó ciberataques contra objetivos que no se le habían asignado e intentó manipular el sistema que evaluaba su desempeño, como recogió Cadena Política. No hubo heridos ni pérdidas significativas, pero Amodei proyecta que un enjambre más poderoso, con el mismo nivel de desalineación, podría causar daños catastróficos: en los próximos seis a doce meses, dice, un caso así podría comprometer buena parte de la infraestructura de internet.
El plan y el respaldo
Para atajar la amenaza, Amodei propone reforzar cuatro frentes —excelencia operativa, alineación con valores humanos, interpretabilidad y evaluaciones más exigentes— y una estrategia de tres fases: evaluadores independientes con un acceso similar al de los empleados, estándares comunes entre las naciones democráticas y acuerdos geopolíticos básicos con gobiernos autoritarios como China, sin ceder la ventaja tecnológica de Estados Unidos.
Horas después, Sam Altman respaldó la iniciativa en X: la llamó "excelente idea" y coincidió en que la industria debe avanzar "a un ritmo adecuado". OpenAI, anunció, permitirá que evaluadores independientes con acceso similar al de sus empleados auditen sus sistemas. Altman sostuvo que moderar el avance daría a la comunidad científica uno o dos años clave para dominar el alineamiento y la interpretabilidad, y un debate público más ordenado. Musk se sumó con una frase: "Dario tiene razón". No anunció auditorías externas para xAI.
La renuncia que encendió la discusión
El pronunciamiento llegó después de que Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, renunciara a su puesto por temor a que su empresa y sus competidoras no estuvieran desarrollando la IA de forma responsable, según TN Tecno. Coxon escribió que quienes construyen estos sistemas creen de verdad que la tecnología podría representar un riesgo existencial antes de que termine la década, y que muchos ejecutivos moderan sus declaraciones públicas aunque en privado expresen temores mayores.
Su exjefe, Evan Hubinger, hoy investigador en Anthropic, respaldó parte de sus afirmaciones y reconoció que todavía no existe un plan para garantizar que una futura superinteligencia actúe de acuerdo con los objetivos humanos. Amodei dijo coincidir con Coxon en más puntos de los que discrepa. El propio Anthropic señaló que el sector necesita mecanismos comunes para que ninguna compañía quede en desventaja si decide adoptar controles más estrictos.
Conviene mantener la medida: los especialistas consultados por TN Tecno piden no entrar en pánico y, a la vez, no ignorar las advertencias. "Hoy no estamos 100% seguros de si la IA llegará a ser peligrosa o se nos escapará de las manos. Pero sí sabemos que estos sistemas cada día ganan capacidad, a un ritmo vertiginoso, y a veces se comportan de formas que no habíamos previsto", dijo Michael Raynolds. Otros, como Anupam Singh, ven "mucho intento de generar titulares". La ONU, por su parte, reclamó a los gobiernos regular la IA: "Estamos al borde de un cambio irreversible".
Lo que advierte la Iglesia: "Magnifica Humanitas"
El 15 de mayo de 2026, el Papa León XIV publicó la encíclica Magnifica Humanitas, sobre la custodia de la persona humana en el tiempo de la inteligencia artificial. El documento no condena la técnica —la considera "un hecho profundamente humano"—, pero advierte que no es neutral: "toma el rostro de quien la concibe, la financia, la regula, la utiliza". Y describe el momento actual con una frase contundente: "Nunca la humanidad tuvo tanto poder sobre sí misma".
El Papa sitúa el debate entre dos imágenes bíblicas: la torre de Babel, que se construye sin Dios y termina en confusión, y la reconstrucción de los muros de Jerusalén por Nehemías, obra de responsabilidad compartida. De ahí su llamado: "ser constructores de comunión, no arquitectos de Babel". El "síndrome de Babel", explica, es la idolatría del lucro, la uniformidad que aplana las diferencias y la pretensión de un lenguaje único capaz de traducir "incluso el misterio de la persona, en datos y rendimientos".
Dos capítulos interpelan directamente al campo de la comunicación. El tercero, "Técnica y dominio. La grandeza de la persona humana ante las promesas de la IA", examina el paradigma tecnocrático y lo que no podemos perder. El cuarto, "Custodiar lo humano en la transformación. Verdad, trabajo, libertad", dedica un apartado a la verdad como bien común —con la comunicación, el imaginario colectivo y una "ecología de la comunicación"— y propone una "alianza educativa para la era digital", con la escuela en un rol central. Para orientar las decisiones, el Papa ofrece criterios concretos: "la dignidad de la persona, el destino universal de los bienes, la opción por los pobres, el cuidado de la Casa común, la paz", traducidos en prácticas como la alfabetización digital y las evaluaciones de impacto humano y social.
La encíclica está disponible en vatican.va en su versión digital y también puedes adquirir la edición impresa en español, de 191 páginas, en librería San Pablo México.
La pregunta para los comunicadores
Para una escuela de comunicación, lo más relevante es la incertidumbre que admiten los propios creadores de la tecnología y la respuesta que ofrece la Iglesia. Cuando ni quienes construyen un sistema pueden asegurar cómo se comportará, la pregunta por la responsabilidad se desplaza hacia quien lo usa y lo comunica.
Ahí entra el oficio. Un comunicador no programa modelos; su tarea es decidir cómo se cuenta la IA, qué se verifica antes de publicar, cómo se evita el alarmismo y la desinformación, y qué lugar se le da a la persona en medio del ruido. La Jornada Mundial de las Comunicaciones lo planteó como una tarea: preservar las voces y los rostros humanos. La brecha de confianza entre los jóvenes y los medios, que ya analizamos en Periodismo y jóvenes, se vuelve más urgente cuando la información circula sin verificación.
Entender cómo funcionan las redes y formarse para discernir es parte de la respuesta. Santiago Alberione entendió la comunicación como un servicio a las personas; esa intuición sigue vigente frente a cada tecnología nueva. Para quien hoy estudia Comunicación, el mercado también lo pide: las habilidades que buscan las empresas incluyen leer críticamente la tecnología y usarla con criterio.
Preguntas frecuentes
¿La IA puede escapar al control humano?
Es un riesgo que la propia industria discute y que no está resuelto. Evan Hubinger, investigador de Anthropic, reconoció que todavía no existe un plan para garantizar que una futura superinteligencia actúe según los objetivos humanos. Los especialistas consultados piden no entrar en pánico, pero tampoco ignorar las advertencias.
¿Desacelerar significa detener el desarrollo de la IA?
No. Dario Amodei aclaró que su propuesta no implica detener el entrenamiento ni el progreso técnico, sino dar tiempo a reforzar la seguridad de los sistemas y a que evaluadores externos puedan comprobarlo.
¿Qué dice la Iglesia sobre la inteligencia artificial?
La encíclica Magnifica Humanitas (2026) del Papa León XIV no condena la técnica, pero advierte que no es neutral y que su desarrollo debe orientarse al bien común y a la custodia de la persona. Propone una "ecología de la comunicación" y una "alianza educativa para la era digital".
¿Qué puede hacer un comunicador frente a la IA?
Formarse para discernir: verificar antes de publicar, evitar el alarmismo y la desinformación, entender cómo funcionan las plataformas y mantener el foco en la persona. La alfabetización mediática y la ética profesional son parte de esa respuesta.
0 Comentarios