La discusión sobre cómo puede emplearse Claude llegó al terreno judicial después de que, según un perfil publicado por Clarín, el Pentágono pidiera retirar dos restricciones del contrato con Anthropic. Los límites impedían usar el sistema para la vigilancia masiva de ciudadanos y para operar armas totalmente autónomas. El caso expuso el conflicto entre las exigencias del gobierno estadounidense y la política de seguridad que la empresa atribuye a su desarrollo de inteligencia artificial.
El artículo informa que Dario Amodei rechazó el pedido, que el gobierno de Donald Trump tomó medidas contra la compañía y que Anthropic recurrió a la Justicia. Un juez frenó una de esas medidas, aunque la publicación no detalla el alcance de la decisión judicial. La disputa puso en primer plano una definición que atraviesa la estrategia de la firma: desarrollar sistemas potentes, pero establecer límites a sus usos.
Amodei llegó a la inteligencia artificial después de formarse en física y volcarse a la biología. El perfil vincula ese giro con su interés por acelerar la investigación científica y con la dificultad de comprender la complejidad biológica únicamente mediante el trabajo de equipos humanos. Antes de dedicarse a los modelos artificiales, estudió la actividad de las neuronas; luego consideró que la IA podía ayudar a extender las capacidades de investigación.
En 2016 se incorporó a OpenAI y allí lideró equipos vinculados con GPT-2 y GPT-3, además de participar en investigaciones sobre el crecimiento de los modelos, el aprendizaje a partir de preferencias humanas y la seguridad de la inteligencia artificial. A fines de 2020 se fue de esa organización junto con su hermana Daniela y otros colegas. En 2021, el grupo fundó Anthropic; Daniela Amodei asumió la presidencia de la compañía.
La firma también atraviesa una etapa de crecimiento comercial. Según la información que presentó a inversores en octubre, Anthropic registró ingresos trimestrales de 16.800 millones de dólares y fue rentable en términos ajustados. El perfil interpreta que la insistencia en la seguridad puede funcionar como una ventaja para atraer empresas, aunque el enfrentamiento por el contrato con el Pentágono muestra que sostener esos límites también puede tener costos.