En el ámbito de los sistemas multiagentes basados en grandes modelos de lenguaje (LLMs), ha surgido un fenómeno interesante que plantea desafíos en términos de cognición colectiva: el Efecto Mandela. Este fenómeno se refiere a la tendencia de los grupos a recordar de manera incorrecta eventos pasados, influenciados por detalles falsos que se refuerzan a través de la influencia social y la desinformación internalizada.
Esta vulnerabilidad plantea interrogantes sobre los sesgos de memoria en los sistemas multiagentes y sus implicaciones éticas en cuanto a la difusión de información errónea. En un esfuerzo por abordar esta problemática, se ha llevado a cabo un estudio exhaustivo sobre el Efecto Mandela en sistemas multiagentes basados en LLM, con un enfoque en su existencia, factores desencadenantes y estrategias de mitigación.
En Q2BSTUDIO, empresa especializada en el desarrollo de software a medida y tecnología de vanguardia, entendemos la importancia de abordar estos desafíos desde una perspectiva ética y tecnológica. Por ello, ofrecemos servicios de inteligencia artificial, ciberseguridad, servicios en la nube como AWS y Azure, inteligencia de negocio y soluciones de IA para empresas, que pueden contribuir a fortalecer la resiliencia y alineación ética de los sistemas colaborativos.
Como parte de este estudio, se ha propuesto MANBENCH, un nuevo benchmark diseñado para evaluar los comportamientos de los agentes en cuatro tipos comunes de tareas susceptibles al Efecto Mandela, utilizando cinco protocolos de interacción que varían en roles de agentes y escalas de tiempo de memoria.
Al evaluar agentes potenciados por diversos LLMs en MANBENCH, se ha logrado cuantificar el Efecto Mandela y analizar cómo diferentes factores influyen en él. Además, se han propuesto estrategias para mitigar este efecto, incluyendo defensas a nivel de prompt (como el anclaje cognitivo y la escrutinio de fuentes) y defensas basadas en la alineación a nivel de modelo, logrando una reducción promedio del 74.40% en el Efecto Mandela en comparación con el punto de referencia.
En un entorno cada vez más interconectado y dependiente de la inteligencia artificial, es crucial abordar los desafíos de la cognición colectiva y la desinformación en sistemas multiagentes. En Q2BSTUDIO, estamos comprometidos a seguir explorando soluciones innovadoras que impulsen la confiabilidad y la ética en estas tecnologías emergentes.
Descubre más sobre nuestras soluciones de IA para empresas
