Ingeniero de Anthropic alerta sobre riesgos existenciales de la inteligencia artificial

Jacob Coxon, ingeniero de la empresa de inteligencia artificial Anthropic, presentó formalmente su renuncia esta semana tras emitir una advertencia sobre el desarrollo acelerado de los sistemas de IA. Según el especialista, los modelos actuales están evolucionando hacia una capacidad sobrehumana que podría permitirles vulnerar cualquier sistema de seguridad digital, planteando riesgos de seguridad global antes de que concluya la década de 2020.

La postura de Coxon se suma a un debate creciente entre expertos en tecnología y reguladores internacionales sobre la necesidad de establecer límites claros en el desarrollo de redes neuronales de gran escala. El ingeniero señaló que la velocidad con la que estas herramientas están ganando autonomía supera la capacidad de las empresas para implementar salvaguardas efectivas, lo que podría derivar en consecuencias imprevistas para la infraestructura digital crítica.

En México, este tipo de advertencias han comenzado a generar eco dentro de las discusiones en el Congreso de la Unión, donde legisladores analizan el impacto de la tecnología en la seguridad nacional. Instituciones como la Secretaría de Seguridad y Protección Ciudadana (SSPC) y el propio Banco de México monitorean de cerca cómo la ciberseguridad podría verse comprometida por el uso de agentes autónomos, dado que la protección de datos financieros y gubernamentales es una prioridad estratégica.

Por su parte, el sector tecnológico en México observa con cautela las declaraciones de Coxon, mientras académicos del IPN y la UNAM sugieren que el país debe fortalecer su marco regulatorio actual. La propuesta que circula en diversos foros especializados sugiere la creación de protocolos de supervisión ética que garanticen que la adopción de estas herramientas no comprometa la integridad de la infraestructura digital pública ni los derechos de los ciudadanos.

Aunque Anthropic no ha emitido una respuesta detallada sobre las acusaciones específicas de su extrabajador, el debate sobre el control de la IA continúa vigente. Especialistas en ciberseguridad sugieren que la comunidad científica debe priorizar la transparencia y el desarrollo de sistemas robustos antes de permitir que la automatización alcance niveles operativos que escapen al control humano directo.