La empresa de inteligencia artificial Anthropic encendió el debate sobre el futuro de esta tecnología tras revelar que su modelo Claude ya participa de manera predominante en la creación del código utilizado por la compañía, un avance que, según advirtió, podría derivar en sistemas capaces de desarrollar por sí mismos versiones cada vez más avanzadas.
En un informe dado a conocer esta semana, la firma señaló que más del 80% del código incorporado actualmente a su base de desarrollo fue escrito por Claude. Aunque el trabajo continúa siendo supervisado y validado por ingenieros humanos, la empresa advirtió que la creciente participación de la inteligencia artificial en su propio desarrollo podría acelerar un proceso de auto-mejoramiento continuo.
Según explicó Anthropic, este fenómeno podría evolucionar hacia una dinámica de “autorreferencia recursiva”, en la que una inteligencia artificial contribuya a diseñar y perfeccionar a sus sucesoras, incrementando progresivamente sus capacidades sin requerir la misma intervención humana que hoy existe.
La compañía reconoció que existen grandes incertidumbres sobre las consecuencias económicas y sociales de un escenario de este tipo. Entre las preocupaciones planteadas figura la posibilidad de que las capacidades de la inteligencia artificial superen ampliamente las habilidades humanas en múltiples áreas productivas, alterando profundamente el funcionamiento de la economía.
El informe sostiene que actualmente resulta difícil anticipar cómo operaría una sociedad en la que gran parte del trabajo humano dejara de ser competitivo frente a sistemas automatizados. Asimismo, señala que tampoco existe claridad sobre el impacto que tendría una automatización total del desarrollo de modelos de inteligencia artificial.
Frente a este escenario, Anthropic planteó que sería beneficioso contar con mecanismos que permitan ralentizar o incluso pausar temporalmente el desarrollo de las tecnologías de IA más avanzadas, con el fin de otorgar más tiempo para estudiar sus efectos y fortalecer las medidas de seguridad y alineación.
No obstante, la empresa advirtió que una desaceleración unilateral podría generar riesgos adicionales si otros actores tecnológicos o gobiernos continúan avanzando sin restricciones. Por ello, propuso la necesidad de una coordinación internacional que permita abordar el desarrollo de la inteligencia artificial bajo criterios comunes.
La firma adelantó además que durante los próximos meses buscará ampliar la discusión con autoridades políticas, investigadores, empresas del sector y representantes de la sociedad civil, argumentando que las decisiones sobre el futuro de esta tecnología no deben quedar únicamente en manos de quienes la desarrollan.
El planteamiento reabre un debate que ha ganado fuerza en los últimos años: cómo equilibrar el avance acelerado de la inteligencia artificial con la necesidad de comprender y gestionar sus posibles efectos sobre la economía, el empleo y la organización de la sociedad.
