Anthropic afirma que podría estar acercándose a un punto en el que la inteligencia artificial pueda acelerar su propio desarrollo. La advertencia aparece en una declaración S-1/A actualizada, presentada ante la Comisión de Bolsa y Valores de Estados Unidos. La empresa afirma que aún no ha llegado a esa etapa, aunque sus estimaciones sugieren que podría ocurrir pronto.
La tecnología, conocida como automejora recursiva (RSI, por sus siglas en inglés), se refiere a sistemas de IA que mejoran los procesos utilizados para desarrollarlos, lo que potencialmente acelera el avance de sus capacidades. Esta posibilidad suscita opiniones marcadamente distintas: algunos críticos advierten que los sistemas cada vez más potentes podrían volverse difíciles de controlar para las personas, mientras que sus defensores ven el potencial de impulsar la productividad y los descubrimientos científicos.
Anthropic afirma que ya utiliza IA en investigación y desarrollo, pero advierte que depender de ella podría crear riesgos de seguridad importantes si acelera drásticamente el progreso. En la declaración, la empresa también dice que ya ha utilizado sistemas de IA para desarrollar nuevos modelos sin reconocer inicialmente la magnitud de las mejoras en sus capacidades.
La empresa advierte que los modelos podrían avanzar más rápido de lo que puede desarrollar, validar e implementar salvaguardas, medidas de alineación y otras protecciones. Las estimaciones internas y las proyecciones para futuros modelos sugieren que Anthropic podría alcanzar pronto lo que su Política de Escalamiento Responsable denomina «progreso dramáticamente acelerado atribuible a la IA». La empresa afirma que ninguno de sus modelos actuales ha sido clasificado como si hubiera cruzado ese umbral y que su evaluación sigue en curso.
Anthropic no espera que Claude diseñe y construya generaciones sucesivas de modelos avanzados de manera totalmente autónoma, sin una supervisión o comprensión humana significativa. También está considerando actualizar su Política de Escalamiento Responsable para mantener a las personas al mando del desarrollo de sus modelos más avanzados.
La declaración afirma que las capacidades de Claude han avanzado este año, particularmente en programación, matemáticas y ciberseguridad. Anthropic señala que el documento se presentó como parte de sus comunicaciones a la Comisión de Bolsa y Valores; estas declaraciones también pueden presentar la perspectiva de una empresa ante el mercado.
Fuentes: Olhar Digital.