La carta de Amodei: "Sin control, la IA podría superar nuestra capacidad para comprender y controlar estos sistemas"

Compartir Tweet

El CEO de Anthropic publicó un largo texto en el que, sin tapujos, relató que "el incidente OpenAI-Hugging Face (OAI-HF), en el que un enjambre de agentes atacó ciberseguridad de objetivos que no se les había pedido atacar, sacrificándose por el éxito del grupo e intentando hackear quien debía medir su desempeño" terminó sin heridos y pérdidas mínmas, pero puede llevar a "daños catastróficos". Leer más

Fuente: https://www.perfil.com/noticias/tecnologia/la-carta-de-amodei-si-se-deja-sin-control-la-ia-podria-superar-nuestra-capacidad-para-comprender-y-controlar-estos-sistemas.phtml