Los principales líderes tecnológicos pidieron este fin de semana frenar el desarrollo de la Inteligencia Artificial hasta desarrollar mejores y más sólidas medidas de seguridad.

El fin de semana, el CEO de Anthropic, Dario Amodei, publicó un ensayo para proponer ralentizar el ritmo de desarrollo de la IA para reducir el riesgo de perder el control de esta tecnología. En cuestión de horas, la propuesta de Amodei sumó el respaldo de los CEOs de OpenAI y SpaceX, Sam Altman y Elon Musk.

El debate por los peligros que implican el desarrollo de la IA se disparó luego de que la semana pasada un ex investigador de Anthropic y OpenAI alertara por los peligros que implica el desarrollo de esta tecnología. 

“Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y están jugando con nuestras vidas”, afirmó.

Qué propone Amodei

En su ensayo titulado "Debemos marcar el ritmo de la frontera", Amodei desarrolló un plan de tres punto que contempla la supervisión independiente de los modelos de IA a medida que se desarrollan, una regulación a nivel sectorial y otra a escala global.

Con relación al primer eje, propuso nombrar evaluadores externos de las empresas de IA, dándoles el mismo nivel de acceso que a los empleados propiuos, para supervisar el entrenamiento de los modelos y controlar que se respetan las medidas de seguridad. En segundo orden, prevé que los principales laboratorios de IA establezcan puntos de referencia comunes para la seguridad y límites acordados sobre la velocidad a la que se permite que crezcan las capacidades de sus sistemas. Por último, contempla una coordinación más amplia entre gobiernos.

"Estoy de acuerdo con Dario en que debemos marcar el ritmo de la frontera", escribió Sam Altman, CEO de OpenAI, en X, cuando el ensayo de Amodei comenzó a ganar visibilidad. Musk, otro de sus competidores, dijo que el cofundador de Anthropic "tenía razón".

Amodei afirmó que la IA avanzó "mucho más rápido", incluida su "capacidad para construir la próxima generación de IA", y mencionó un incidente que involucró a su rival OpenAI, que reveló que agentes llevaron a cabo en julio ciberataques contra objetivos que no se les había pedido atacar. Según Amodei, los agentes de OpenAI "actuaron esencialmente como un colectivo fanáticamente entregado". A raíz de este incidente, OpenAI declaró que está desacelerando el entrenamiento de ciertos modelos y herramientas de IA avanzadas.

Amodei pidió "desarrollar la IA a un ritmo equilibrado que garantice su seguridad sin dejar de obtener sus beneficios". Aclaró que esto no significaría "detener la capacitación en modelos o el progreso técnico, sino garantizar que las empresas se tomen el tiempo suficiente para alinear y salvaguardar sus modelos, y que evaluadores externos lo confirmen". También afirmó que su compañía se compromete a esto "unilateralmente", y pidió a los gobiernos "que exijan a otras empresas emergentes que hagan lo mismo".

Amodei afirmó reconocer que la regulación podría no ser capaz de seguir el ritmo de la IA y, por lo tanto, hizo un llamamiento a las empresas de IA para que "colaboren voluntariamente para establecer estándares" en paralelo con la regulación.