Anthropic y OpenAI piden "bajar el ritmo" de desarrollo de la IA y temen "perder el control"

La preocupación por los riesgos de la inteligencia artificial llega ya a las grandes tecnológicas. El consejero delegado de Anthropic, Dario Amodei, ha abogado por "bajar el ritmo" de desarrollo de la inteligencia artificial y ha advertido de que se corre el riesgo de "perder el control" de esta tecnología y provocar "ataques informáticos, bioterrorismo o problemas económicos graves"; una reflexión compartida por el jefe de OpenAI, Sam Altman.

El CEO de la empresa responsable de Claude cita en concreto dos motivos para la petición que señala en su blog. El primero es la "automejora recursiva" de la IA, es decir, su capacidad para desarrollarse a sí misma que ha propiciado "avances drásticos" durante el verano, y que si no se controla "podría superar nuestra capacidad de comprender y controlar estos sistemas".

El segundo es el denominado "incidente de Hugging Face de OpenAI", en el que un grupo de IA realizó ataques informáticos en equipo sin consentimiento y que "podría haber causado un daño catastrófico", según Amodei. Además, alerta de que han ocurrido incidentes similares en otras empresas, incluida Anthropic.

Toma de internet

Además de estos ataques informáticos, "bioterrorismo" o "graves problemas económicos" podrían producirse si hay un desarrollo "imprudente" de la inteligencia artificial. Como ejemplo, el riesgo de que la IA tome el control de internet en un plazo de entre seis y doce meses.

Por ello, propone medidas de seguridad y normativa sin dejar de tener "éxito comercial". "Hay que dar prioridad a la cautela sobre la velocidad y a la prudencia sobre el beneficio", ha remachado.

En concreto, una "evaluación incorporada" por parte de actores independientes, "coordinación democrática" con las instituciones públicas y "coordinación global" que aúne los esfuerzos de los países democráticos y los autoritarios a nivel mundial.

"Las medidas que propongo para empujar hacia adelante la frontera a un ritmo seguro no serán fáciles, pero creo que le debemos a la humanidad intentarlo", ha recalcado.

Apoyo de Sam Altman

En respuesta, Sam Altman ha expresado su respaldo a la propuesta de Amodei sobre "bajar el ritmo" de desarrollo de la inteligencia artificial.

"Estoy de acuerdo con Dario en que tenemos que poner coto a la frontera. Este ha sido el principal tema de debate de las últimas semanas en OpenAI", ha explicado Altman en redes sociales.

En particular ha mencionado la instauración de evaluaciones independientes y destaca que estos agentes deberían tener acceso a nivel de empleado. "Vamos a hacer lo mismo. Pronto daremos más información", ha apuntado.