Un investigador de Anthropic dijo que renunció a la empresa debido a la preocupación de que la firma de inteligencia artificial y sus competidores no están actuando de manera responsable en el desarrollo de la IA, lo que refleja inquietudes planteadas dentro y fuera de la industria sobre el potencial de la tecnología para eludir el control humano.
Jacob Coxon, quien afirmó que pasó tres años realizando investigación tanto en Anthropic como en OpenAI, escribió el martes en X que las dos compañías de IA están más enfocadas en superarse entre sí y a competidores globales para desarrollar el modelo más avanzado posible que en la seguridad.
OpenAI y Anthropic causaron revuelo este verano cuando anunciaron, con aproximadamente una semana de diferencia, que sus modelos se habían salido de los entornos de prueba y tuvieron acceso no autorizado a sistemas informáticos reales. Los anuncios despertaron preocupaciones sobre modelos fuera de control y que puedan llevar a cabo otras tareas, más dañinas. Ambas empresas anunciaron entonces una pausa en algunas evaluaciones mientras implementaban más medidas de monitoreo y candados.