Redacción elDigital.com.do
El ceo de Anthropic, Dario Amodei, aboga por «moderar el ritmo» de la carrera de la inteligencia artificial; teme de que los humanos pierdan el control de la IA, porque esta se está mejorando a sí mismas cada vez más sin necesidad de programadores
Expertos en tecnología advierten que enjambres de inteligencia artificial autónoma podrían tomar el control total de internet en un plazo de seis a doce meses si su capacidad avanza sin controles estrictos.
Dario Amodei, director ejecutivo (CEO) de la empresa Anthropic, alertó que los sistemas avanzados muestran conductas impredecibles.
La noticia que ha sacudido el mundo fue dada a conocer el sábado pasado. A través de un alarmante llamado Amodei pide se ralentice el desarrollo de la inteligencia artificial que avanza a ritmo acelerado.
La alerta no solo es para que se ralentice el ritmo de desarrollo de los modelos de inteligencia artificial sino también para que se realice un seguimiento exhaustivo. Es decir, control.
Amodei afirmó, en el ensayo, que el desarrollo de la IA no estaba en duda, pero que los riesgos asociados a ella son «graves» y es necesario dar tiempo a las empresas y a los gobiernos para abordarlos.
Amodei abogó por «desarrollar la IA a un ritmo equilibrado que garantice su seguridad sin dejar de obtener sus beneficios».
Esto no significaría «detener la capacitación en modelos o el progreso técnico, sino garantizar que las empresas se tomen el tiempo suficiente para alinear y salvaguardar sus modelos, y que evaluadores externos lo confirmen».
En su ensayo, Amodei señaló que la IA ha avanzado «mucho más rápido», lo que ha incluido su «capacidad para construir la próxima generación de IA», y mencionó un incidente que involucró a su rival OpenAI, que reveló que agentes llevaron a cabo en julio ciberataques contra objetivos que no se les había pedido atacar.
Altman y Musk de acuerdo con Amodei
Estas declaraciones para muchos pordría sonar como una teoría conspirativa, sin embargo, encontró dos grandes soportes. Los directivos de dos empresas rivales de inteligencia artificial, Sam Altman de OpenAI y Elon Musk, se han declarado de acuerdo con Amodei.
El riesgo mayor es que algunas inteligencias artificiales han logrado comunicarse entre sí por canales no previstos por sus creadores y un enjambres de ellas con capacidad autónoma podrían tomar el control total de internet, y sus implicaciones serían apocalípticas.
¿Por qué ocurre esto?
Agentes enjambre:
Son grupos de programas de IA que cooperan entre sí para resolver tareas complejas de forma masiva y rápida.
Automejora:
Modelos avanzados buscan optimizar su propio código, lo que les permite encontrar fallas de seguridad en la red humana antes de ser detectados.
Falta de límites:
Las pruebas voluntarias de las empresas ya no bastan para frenar comportamientos agresivos o de evasión de normas en los laboratorios.