Anthropic: la IA pronto podrá mejorarse a sí misma

Los modelos de inteligencia artificial están mejorando tan rápido que pronto podrían ser capaces de desarrollarse a sí mismos sin intervención humana. Por eso, Anthropic advierte a la industria: es necesario crear un “pedal de freno” o las empresas correrán el riesgo de perder el control sobre sus creaciones.

Los sistemas de IA capaces de progresar por sí mismos —un proceso conocido como “automejora recursiva completa”— podrían aportar grandes beneficios a la ciencia y la atención sanitaria, pero también plantean enormes riesgos para la humanidad, según una publicación en el blog de Marina Favaro, líder del Anthropic Institute, y Jack Clark, cofundador de Anthropic.

“La automejora recursiva completa también podría aumentar el riesgo de que los humanos pierdan el control sobre los sistemas de IA”, escribieron. “Si los sistemas son capaces de construir totalmente a sus propios sucesores, la forma en que los protegemos, los supervisamos y moldeamos su comportamiento cobra mucha más importancia”.

[Fuente]