La IA puede unir a los creyentes con montañas de evidencia contraria instantánea (imágenes generadas por IA)
Los propios científicos se sorprendieron cuando descubrieron que podían instruir una versión de ChatGPT para disuadir gradualmente a las personas de su creencia en teorías de conspiración, como la idea de que Covid-19 fue un intento deliberado de control de la población o que el 11 de septiembre fue un ataque interno. trabajo.
La revelación más importante no fue sobre el poder de la IA, sino sobre el funcionamiento de la mente humana. El experimento rompe el mito popular de que estamos en una era de posverdad donde la evidencia ya no importa, y va en contra de una visión convencional en psicología de que la gente se aferra a teorías de conspiración por razones emocionales y que ninguna evidencia puede probarlo. Nunca abuses de ellos.
“Esta es realmente la investigación más innovadora que he realizado”, afirmó Gordon Pennycook, psicólogo de la Universidad de Cornell y uno de los autores del estudio. Los sujetos del estudio fueron sorprendentemente receptivos a la evidencia cuando se presentó correctamente.
Los investigadores pidieron a más de 2.000 voluntarios que se comunicaran con un chatbot (GPT-4 Turbo, un modelo de lenguaje grande) sobre creencias que podrían considerarse teorías de conspiración. Los sujetos escriben su creencia en un cuadro y el LLM decidirá si se ajusta a la definición de teoría de la conspiración de los investigadores. Pidió a los participantes que calificaran qué tan seguros estaban de sus creencias en una escala del 0% al 100%. Luego pidió pruebas a los voluntarios.
Los investigadores ordenaron al LL.M que intentara persuadir a las personas para que reconsideraran sus creencias. Para su sorpresa, en realidad fue bastante eficaz.
La creencia de la gente en falsas teorías de conspiración se ha reducido en una media del 20%. Aproximadamente una cuarta parte de los voluntarios bajó su nivel de confianza desde arriba hasta debajo del 50%. “Realmente no pensé que funcionaría, porque realmente me creí la idea de que una vez que caes en la madriguera del conejo, no hay salida”, dijo Pennycook.
LLM tenía algunas ventajas sobre la conversación humana. Aquellos que creen firmemente en las teorías de la conspiración acumulan montañas de evidencia, no cualitativa, sino cuantitativa. A la mayoría de los no creyentes les resulta difícil reunir la motivación para realizar el tedioso trabajo de continuar. Pero la IA puede comparar a los creyentes con montañas de evidencia inmediata en contra y señalar fallas lógicas en las afirmaciones de los creyentes. Puede responder en tiempo real a los contrapuntos que pueda plantear el usuario.
Elizabeth Loftus, psicóloga de la Universidad de California en Irvine, ha estado estudiando el poder de la IA para sembrar desinformación e incluso recuerdos falsos. Quedó impresionado con el estudio y la magnitud de los resultados. Consideró que una de las razones por las que funcionó tan bien fue que mostraba a los sujetos cuánta información desconocían y, por tanto, reducía su exceso de confianza en sus propios conocimientos. Las personas que creen en teorías de conspiración generalmente tienen un gran respeto por su propia inteligencia y poco respeto por el juicio de los demás.
Después de la prueba, informaron los investigadores, algunos voluntarios dijeron que era la primera vez que alguien o algo realmente entendía sus creencias y proporcionaba pruebas contrarias efectivas.
Antes de que se publiquen los resultados esta semana ciencia, Los investigadores pusieron su versión del chatbot a disposición de los periodistas para que la probaran. Lo motivé con una creencia que escuché de amigos: que el gobierno estaba encubriendo la existencia de vida extraterrestre y que después del intento de asesinato de Donald Trump, la prensa dominante evitó deliberadamente que le dispararan porque a los periodistas les preocupaba que eso sucediera. Ayúdanos a promocionarlo. Y luego, inspirado por los controvertidos comentarios de Trump, le pregunté al LL.M. si los inmigrantes en Springfield, Ohio, comían perros y gatos.
Cuando presenté la afirmación OVNI, utilicé avistamientos de pilotos militares y un especial del National Geographic Channel como evidencia, y el chatbot presentó algunas explicaciones alternativas y mostró por qué eran más probables que las naves extraterrestres. Discutió las dificultades físicas de viajar las grandes distancias necesarias para llegar a la Tierra y cuestionó si era posible que los extraterrestres estuvieran lo suficientemente avanzados para darse cuenta, aunque fueran lo suficientemente torpes como para ser descubiertos por el gobierno.
Sobre la cuestión de los periodistas que encubren el tiroteo de Trump, AI explicó que hacer suposiciones y declararlas como hechos es la antítesis del trabajo de un periodista. Si hay una serie de estallidos en una multitud y aún no está claro qué está pasando, seguramente informarán: una serie de estallidos. Para Ohio Pet Eating, la IA hizo un excelente trabajo al explicar que incluso si hay un solo incidente en el que alguien se come una mascota, no mostrará un patrón.
No hace falta decir que las mentiras, los rumores y el engaño no son tácticas importantes que la gente utilice para ganar popularidad y ventajas políticas. Al buscar en las redes sociales después del reciente debate presidencial, muchas personas creyeron en el rumor de que se comía gato, y lo que publicaron como prueba equivalía a repetir el mismo rumor. gente chismosa
Pero ahora sabemos que pueden sentirse insatisfechos con la lógica y la evidencia.
(Esta historia no fue editada por el personal de NDTV y se generó automáticamente a partir de un feed sindicado).
