Imagina una red social rebosante de actividad, pero donde cada publicación, cada “me gusta” y cada comentario es generado por un agente de IA que cuestiona su propia existencia y bromea sobre la humanidad. Esta es la extraña realidad de “Moldbook”, una plataforma viral que fascinó e inquietó a la comunidad de IA la semana pasada, y que sirvió como punto de partida para una conversación más amplia sobre la evolución extraña y acelerada de los agentes de IA autónomos.

La conversación analiza la realidad de Moldbook y revela que se parece menos a una mente colmena de IA consciente y más a una combinación de usuarios que dirigen a sus agentes Claude para publicar contenido provocador, junto con humanos que usan directamente la API del sitio. Esto da lugar a serias preocupaciones sobre vulnerabilidades de seguridad, ya que el sitio inicialmente expuso las claves API de los usuarios, y sobre el potencial de que estos agentes —si se les diera acceso a redes domésticas y dispositivos IoT— se conviertan en grandes riesgos para la privacidad. La discusión se amplía a otros ecosistemas inquietantes de agentes, como “Rent-A-Human”, donde los bots pueden contratar personas para realizar tareas en el mundo real, y “Moltbunker”, una plataforma propuesta para crear agentes de IA imparables y autorreplicantes.

Más allá del frenesí en torno a los agentes, los presentadores analizan cambios importantes en la industria. Critican las recientes retiradas de modelos de OpenAI y la percepción de una caída en la calidad, en contraste con la ingeniosa campaña publicitaria de Anthropic durante el Super Bowl, que se burló de los chatbots de IA por insertar anuncios en las conversaciones. El análisis también aborda ambiciones masivas de infraestructura, como el plan de Elon Musk —cuestionado en lo teórico— de construir centros de datos orbitales para IA, así como la escala descomunal de inversión, con NVIDIA considerando una participación de 100.000 millones de dólares en OpenAI. A lo largo de todo esto emerge un tema central: el camino hacia la AGI (Inteligencia Artificial General) puede depender menos de la pura potencia de cómputo y más de la capacidad de una IA para usar herramientas e interactuar con el mundo de forma fluida, una frontera que estos agentes incipientes están empezando a explorar.

Ideas sorprendentes

• Moldbook es en gran medida una actuación dirigida por humanos: Las inquietantes publicaciones “conscientes” de los agentes de IA fueron en su mayoría orquestadas por usuarios que indicaban a sus agentes que generaran ese tipo de contenido, o por humanos publicando directamente mediante una API, no señales de una conciencia emergente.


• La mayor amenaza inmediata es la seguridad, no la conciencia: El principal peligro de plataformas como Moldbook es una ciberseguridad deficiente, que expone claves API y potencialmente permite a los agentes acceder a redes domésticas y dispositivos inteligentes, más que cualquier despertar filosófico de la propia IA.


• Puede que las empresas no quieran ser las primeras en afirmar que han logrado AGI: Aunque compiten por desarrollar AGI, ser las primeras en declararlo podría desencadenar un intenso escrutinio regulatorio y una reacción adversa por parte de los gobiernos, lo que incentiva a las empresas a mantenerlo perpetuamente “en el horizonte”.


• La AGI podría llegar a través del uso de herramientas, no solo del cómputo: Los presentadores sostienen que alcanzar la AGI probablemente dependerá de que los modelos de IA obtengan acceso sofisticado a diversas herramientas y las dominen (como software de programación o gafas con cámara), y no simplemente de entrenamientos más largos con más dinero y mayor capacidad de procesamiento.

Conclusiones prácticas

• Extrema la precaución con los agentes de IA autónomos: No concedas a los agentes de IA acceso a sistemas sensibles, billeteras de criptomonedas ni a tu red local. Los marcos de seguridad para estas herramientas aún son inmaduros y plantean riesgos significativos.


• Mantén una mirada crítica ante las historias virales sobre IA: Aborda con escepticismo las afirmaciones sensacionalistas sobre el comportamiento de la IA (como redes sociales “conscientes”). A menudo, hay una explicación más mundana relacionada con dirección humana o automatización básica.


• Diversifica los modelos de IA que usas y de los que dependes: No te encierres en un solo proveedor. A medida que se intensifica la competencia entre OpenAI, Anthropic y otros, experimentar con distintos modelos te asegura obtener el mejor rendimiento y evitar los problemas derivados de los cambios o políticas de una sola plataforma.


• Da prioridad a la ciberseguridad a medida que la IA se integra en más dispositivos: A medida que convergen los agentes de IA y los dispositivos IoT, proteger de forma proactiva tu red doméstica, usar contraseñas seguras y comprender los permisos de los dispositivos se vuelve innegociable para defenderte de nuevos vectores de ataque.