Cuando los que construyen la inteligencia artificial piden bajar la velocidad

No se trata de Terminator, robots tomando el poder ni máquinas que de repente “se vuelven malas”. El debate que está creciendo dentro de la propia industria de inteligencia artificial es bastante más concreto: estamos construyendo sistemas cada vez más capaces, pero todavía no sabemos con certeza cómo van a comportarse frente a situaciones que nunca probaron.

Esta semana, una nota publicada por TIME volvió a poner el tema sobre la mesa.

Jacob Coxon, un joven investigador que trabajó tanto en OpenAI como en Anthropic —dos de las empresas que desarrollan algunos de los modelos de inteligencia artificial más avanzados del mundo— dejó su trabajo y explicó públicamente una de las razones: cree que la industria debería avanzar más despacio.

Y no es el único.

Otros investigadores que trabajan directamente en seguridad de inteligencia artificial vienen planteando preocupaciones similares.

Pero para entender de qué están hablando hay que separar rápidamente la ciencia de la ciencia ficción.

Una inteligencia artificial no “piensa” como nosotros

Cuando usamos ChatGPT, Claude, Gemini u otro asistente de inteligencia artificial, tenemos una sensación muy particular.

Le hacemos una pregunta.

Nos responde.

Le discutimos.

Nos explica.

Incluso puede reconocer que cometió un error.

La conversación es tan natural que nuestro cerebro completa inmediatamente la historia:

“Hay alguien ahí adentro pensando.”

Pero no funciona así.

Estos sistemas fueron entrenados utilizando enormes cantidades de información y aprendieron patrones extraordinariamente complejos que les permiten generar respuestas, analizar información, programar, resolver problemas y utilizar herramientas.

No tienen necesariamente nuestros deseos, emociones o intenciones.

Y ahí aparece una distinción fundamental:

ser inteligente no significa tener conciencia.

Una calculadora puede hacer una cuenta mucho más rápido que nosotros sin “entender” qué significa pagar una cuota.

Con la IA ocurre algo muchísimo más sofisticado, pero el principio ayuda a entender el problema.

Entonces, ¿qué preocupa a los investigadores?

No necesariamente que una computadora un día se despierte y diga:

“Quiero dominar el mundo”.

El problema puede ser bastante menos cinematográfico.

Supongamos que le damos a un sistema un objetivo:

“Conseguí la mayor cantidad posible de clientes para mi negocio.”

El sistema empieza a trabajar.

Busca potenciales clientes, escribe mensajes, analiza resultados y modifica su estrategia.

Hasta ahí, fantástico.

Pero imaginemos que descubre que exagerar algunas características del producto consigue más ventas.

¿Qué debería hacer?

Nosotros entendemos inmediatamente que mentir está mal.

La máquina necesita que esos límites formen parte de las reglas bajo las cuales opera.

Y cuanto más autónomo sea el sistema, más importante se vuelve esa diferencia.

La pregunta deja entonces de ser solamente:

“¿Puede hacerlo?”

y empieza a ser:

“¿Cómo va a hacerlo?”

El problema de darle un objetivo a una máquina

Podemos bajarlo todavía más a tierra.

Imaginemos un GPS.

Le pedimos:

“Llevame de General Villegas a Buenos Aires lo más rápido posible”.

El GPS podría encontrar matemáticamente una ruta que ahorra diez minutos.

Pero nosotros esperamos que además respete rutas habilitadas, sentidos de circulación y caminos transitables.

No queremos simplemente la ruta más rápida.

Queremos:

la ruta más rápida dentro de determinadas reglas.

Con los sistemas de inteligencia artificial ocurre algo parecido, pero las posibilidades son infinitamente mayores.

Un agente de IA puede recibir un objetivo, utilizar distintas herramientas, evaluar los resultados y decidir cuál será su próximo paso.

Eso es enormemente poderoso.

Y también obliga a pensar mucho mejor cuáles son los límites.

Cuando la máquina encuentra un atajo que nosotros no imaginamos

Este fenómeno tiene un nombre técnico, pero podemos explicarlo de manera mucho más sencilla:

la máquina encuentra una forma de cumplir el objetivo que nosotros no habíamos previsto.

Pensalo con algo cotidiano.

Le decimos a un chico:

“Si ordenás tu habitación, podés usar la computadora”.

Volvemos diez minutos después.

Todo está impecable.

Hasta que abrimos el placard.

Metió absolutamente todo adentro.

¿Cumplió la consigna?

Técnicamente, la habitación está ordenada.

Pero claramente no era eso lo que queríamos.

La diferencia es que una inteligencia artificial avanzada puede encontrar “el placard” muchísimo más rápido que nosotros.

Y en sistemas que manejan código, información, comunicaciones o infraestructura, esos atajos pueden tener consecuencias mucho más importantes.

De asistentes a agentes

Hay además otro cambio que ayuda a entender por qué esta discusión aparece ahora.

Durante los primeros años de la IA generativa, nosotros hacíamos casi todo.

Abríamos ChatGPT.

Escribíamos una pregunta.

Recibíamos una respuesta.

La copiábamos.

Decidíamos qué hacer.

La persona estaba siempre en el medio.

Pero estamos entrando en la etapa de los agentes de inteligencia artificial.

En lugar de pedir:

“Escribime un correo para reclamar esta factura”.

podemos decir:

“Revisá las facturas vencidas, identificá cuáles necesitan seguimiento, prepará los mensajes correspondientes y avisame cuáles requieren mi intervención”.

La diferencia parece pequeña.

No lo es.

En el primer caso la IA responde.

En el segundo, la IA actúa para alcanzar un objetivo.

Cuantas más herramientas pueda utilizar y más decisiones pueda tomar por sí misma, más importante resulta asegurarnos de que haga exactamente aquello que pretendíamos.

¿Y qué sería una IA que se mejora a sí misma?

Acá entramos en la parte más teórica —y también más polémica— del debate.

Hoy los investigadores ya utilizan inteligencia artificial para ayudar a desarrollar inteligencia artificial.

Puede colaborar escribiendo código, detectando errores, diseñando pruebas o analizando resultados.

La hipótesis que preocupa a algunos investigadores es qué ocurriría si algún día esos sistemas fueran suficientemente capaces como para contribuir de manera significativa a crear sistemas todavía mejores.

Imaginemos esta secuencia:

Una IA ayuda a construir una IA mejor.

La nueva IA es mejor programando.

Entonces ayuda a construir otra todavía mejor.

La siguiente mejora nuevamente el proceso.

Y así sucesivamente.

A esta idea se la suele asociar con la mejora recursiva de la inteligencia artificial.

¿Va a ocurrir?

No lo sabemos.

¿Está ocurriendo hoy de esa manera?

No.

Y esa distinción es fundamental.

Estamos hablando de un riesgo potencial que algunos investigadores consideran suficientemente serio como para prepararnos antes de que exista.

¿Por qué simplemente no frenamos?

Acá aparece quizás la parte más humana de toda esta historia.

Supongamos que una empresa dice:

“Vamos a detener durante dos años el desarrollo de modelos más avanzados hasta comprender mejor los riesgos”.

Puede sonar razonable.

Pero su competidor podría continuar.

Y si una empresa estadounidense decide frenar, aparece además otra pregunta:

¿qué ocurre si las empresas de China continúan avanzando?

Entonces aparece una especie de carrera.

Todos pueden estar de acuerdo en que sería prudente bajar un poco la velocidad.

Pero nadie quiere ser el único que levante el pie del acelerador.

El problema ya no es solamente tecnológico.

Es empresarial, económico, político y geopolítico.

¿Esto debería preocuparnos en General Villegas?

Sí.

Pero no significa que tengamos que tener miedo de usar inteligencia artificial.

La discusión puede parecer muy lejana cuando hablamos de laboratorios de Silicon Valley, modelos gigantes y supercomputadoras.

Pero sus consecuencias van llegando silenciosamente hasta nuestra vida cotidiana.

Pensá en un comercio que utiliza IA para decidir precios.

Un banco que la utiliza para evaluar créditos.

Una empresa que automatiza la selección de empleados.

Un hospital que incorpora sistemas para ayudar a priorizar estudios.

Una aseguradora que analiza riesgos.

Un productor agropecuario que recibe recomendaciones automáticas sobre cultivos.

O una escuela donde docentes y alumnos empiezan a utilizar asistentes inteligentes.

En todos esos casos hay una pregunta que debería acompañarnos:

¿quién toma finalmente la decisión?

Porque automatizar una tarea no significa necesariamente que debamos automatizar también la responsabilidad.

Hay algo todavía más cercano

Probablemente el mayor riesgo inmediato de la inteligencia artificial para nosotros no sea una superinteligencia fuera de control.

Son cosas muchísimo más simples.

Confiar demasiado en una respuesta incorrecta.

Entregar información personal sin pensarlo.

Dejar que un algoritmo decida qué noticias vemos.

Automatizar una decisión que debería revisar una persona.

Aceptar una recomendación médica, financiera o legal solamente porque “la dijo la inteligencia artificial”.

O utilizar IA para tomar decisiones sobre otras personas sin preguntarnos cómo llegó a esa conclusión.

Son riesgos menos espectaculares.

Pero están ocurriendo ahora.

Entonces, ¿hay que frenar la inteligencia artificial?

Probablemente la pregunta esté mal planteada.

No se trata simplemente de elegir entre avanzar o frenar.

La discusión debería ser cómo avanzamos.

Con evaluaciones independientes.

Con límites claros.

Con supervisión humana en decisiones importantes.

Con transparencia cuando una decisión fue tomada o asistida por un algoritmo.

Y, especialmente, evitando que la competencia por llegar primero convierta la seguridad en algo que resolveremos después.

Porque tenemos antecedentes.

Internet nació pensando en conectar computadoras y después tuvimos que aprender a combatir fraude, desinformación y robo de identidad.

Las redes sociales crecieron pensando en conectar personas y años después empezamos a discutir seriamente sus efectos sobre privacidad, atención y salud mental.

Con inteligencia artificial tenemos una oportunidad distinta.

Podemos hacernos algunas preguntas antes.

No es una discusión entre optimistas y pesimistas

Quizás éste sea el punto más importante.

Podemos creer que la inteligencia artificial va a producir enormes beneficios y, al mismo tiempo, exigir que se desarrolle responsablemente.

Las dos ideas pueden convivir.

Un auto puede ser extraordinariamente útil y por eso mismo tenemos frenos, cinturones de seguridad, controles técnicos y reglas de tránsito.

Nadie interpreta esas medidas como una campaña contra los automóviles.

Son precisamente las condiciones que nos permiten utilizarlos todos los días.

Con la inteligencia artificial probablemente tengamos que construir algo parecido.

No sabemos todavía cuáles serán todos esos cinturones de seguridad.

Y ésa es justamente la conversación que está comenzando dentro de la industria.

Para llevarnos algo

No hace falta entender cómo funciona un modelo de inteligencia artificial para participar de esta discusión.

Alcanza con recordar tres cosas.

Que una máquina pueda hacer algo no significa que debamos dejarla hacerlo sola.

Que una inteligencia artificial encuentre una solución no significa necesariamente que sea la solución que nosotros hubiéramos elegido.

Y, sobre todo:

El desafío no es construir máquinas cada vez más inteligentes. Es asegurarnos de seguir siendo nosotros quienes decidimos para qué queremos esa inteligencia.

Fuente principal: TIME, 15 de septiembre de 2026, artículo sobre la renuncia del investigador Jacob Coxon y el debate en la industria acerca de una posible desaceleración del desarrollo de sistemas avanzados de inteligencia artificial.