La pizza de almejas blancas en la Pizzeria Napoletana de Frank Pepe en New Haven, Connecticut, es una revelación. La corteza, besada por el intenso calor del horno de carbón, logra un equilibrio perfecto entre crujiente y masticable. Cubierto con almejas recién peladas, ajo, orégano y un poco de queso rallado, es un testimonio de la magia que los ingredientes simples y de alta calidad pueden evocar.
¿Suena como yo? No es así. El párrafo completo, excepto el nombre y la ciudad de la pizzería, fue creado por GPT-4 en respuesta a una simple pregunta para criticar un restaurante al estilo de Pete Wells.
Tengo algunas objeciones. Nunca consideraría una comida como una revelación ni describiría el calor como un beso. No creo en la magia y rara vez digo algo perfecto sin usar “casi” o alguna otra cobertura. Pero estos descriptores perezosos son tan comunes en los escritos sobre comida que imagino que muchos lectores no los notan. Estoy inusualmente motivado con ellos porque cada vez que cometo un cliché en mi texto, mi editor me da un puñetazo en la oreja.
No se dejará engañar por el falso Pete. yo tampoco
Responsable de Phoney Me Balazs Kovacs, profesor de comportamiento organizacional en la Escuela de Administración de Yale. adentro Un estudio reciente, proporcionó a GPT-4, la tecnología detrás de ChatGPT, una gran cantidad de reseñas de Yelp y le pidió que lo emulara. Sus sujetos de prueba (personas) no podían distinguir entre reseñas reales y aquellas generadas por inteligencia artificial. De hecho, era más probable que percibieran las reseñas de IA como reales. (El fenómeno de las imitaciones generadas por computadora que son más creíbles que las reales es tan familiar que tiene un nombre: hiperrealismo de la IA).
La investigación del Dr. Kovacs es parte de una creciente cuerpo Las investigaciones sugieren que la última versión de la IA generativa podría pasar la prueba de Turing, un estándar científicamente vago pero culturalmente resonante. Cuando una computadora puede engañarnos haciéndonos creer que lo que escupe fue escrito por un humano, decimos que ha pasado la prueba de Turing.
Durante mucho tiempo se ha asumido que la IA eventualmente superará la prueba propuesta por primera vez por el matemático Alan Turing en la década de 1950. Pero incluso algunos expertos se sorprenden por lo rápido que avanza la tecnología. “Está sucediendo más rápido de lo que la gente esperaba”, afirmó el Dr. Kovacs.
La primera vez que el Dr. Kovacs pidió a GPT-4 que imitara a Yelp, pocos se dejaron engañar. La prosa era tan perfecta. Esto cambió cuando el Dr. Kovacs le indica al programa que utilice la ortografía hablada, enfatizando algunas palabras en mayúsculas e insertando errores tipográficos, uno o dos en cada revisión. Esta vez GPT-4 pasó la prueba de Turing.
Además de marcar un umbral en el aprendizaje automático, la capacidad de la IA para sonar como nosotros tiene el potencial de destruir cualquier fe que todavía tengamos en la comunicación verbal, especialmente las breves. Los mensajes de texto, correos electrónicos, secciones de comentarios, artículos de noticias, publicaciones en redes sociales y reseñas de usuarios serán aún más sospechosos de lo que ya son. ¿Quién creería que una publicación de Yelp sobre un brillante despacho de OpenTable sobre una pizza con croissant o una degustación de sushi omakase de 400 dólares podría haber sido escrito por una máquina que no puede masticar ni tragar?
“Con las reseñas generadas por los consumidores, siempre ha habido una gran pregunta sobre quién está detrás de escena”, dice Phoebe Ng, estratega de comunicaciones de restaurantes en la ciudad de Nueva York. “Ahora es una cuestión de qué hay detrás de la cortina”.
Las opiniones en línea son la grasa que impulsa el comercio moderno. adentro Una encuesta de 2018 Según el Pew Research Center, el 57 por ciento de los estadounidenses encuestados dijeron que siempre o casi siempre leen reseñas y calificaciones en Internet antes de comprar un producto o servicio por primera vez. Otro 36 por ciento dijo que a veces lo hace.
Para las empresas, unos pocos puntos en una calificación de estrellas en Google o Yelp pueden significar la diferencia entre ganar dinero y hundirse. “Vivimos de las reseñas”, me dijo la semana pasada el gerente de una sucursal de Enterprise Rent-a-Car en Brooklyn cuando recogí un auto.
Un viajero de negocios que necesita un viaje que no se averíe en la autopista de peaje de Nueva Jersey podría verse más influenciado por un informe negativo que, por ejemplo, alguien que simplemente busca un brunch. Aún así, para los dueños de restaurantes y chefs, Yelp, Google, TripAdvisor y otros sitios que permiten a los clientes expresar su opinión son una fuente de preocupación interminable y angustia ocasional.
Una causa particular de frustración es el gran número de personas que no se molestan en comer en los lugares sobre los que escriben. antes un articulo al respecto Como se señaló la semana pasada, la primera ubicación en Nueva York de la cadena de dim sum con sede en Taiwán Dean Tai Fung recibió una reseña de una estrella en Google, y su calificación promedio cayó a 3,9 de 5 posibles. El restaurante aún no está abierto.
Algunos críticos fantasmas son más siniestros. Los restaurantes son bombardeados con reseñas de una estrella, seguidas de un correo electrónico que ofrece eliminarlas a cambio de una tarjeta de regalo.
Para combatir las calumnias de mala fe, algunos propietarios reclutan a sus seres más cercanos y queridos para inundar la zona con propaganda positiva. “Una pregunta es: ¿cuántos apodos tenemos todos en la industria de la restauración?” dijo Steven Hall, propietario de una firma de relaciones públicas de Nueva York.
Un paso adelante respecto de una campaña organizada de relleno de votos, o tal vez un paso hacia abajo, es la práctica de intercambiar alimentos o dinero en efectivo compensados por artículos positivos. Más allá de eso se encuentra el vasto y sombrío reino de los críticos que no existen.
Para promover su propio negocio o debilitar a sus competidores, las empresas pueden contratar intermediarios que han creado pequeños ejércitos de críticos imaginarios. De acuerdo a quien es el decanoSegún un defensor del consumidor que investiga el fraude en las reseñas en línea, estas cuentas generalmente reciben un historial extenso de reseñas anteriores que sirve como camuflaje para sus resultados de pago por juego.
a las dos en punto reciente videoCitó una cadena de clínicas de salud mental que recibieron críticas entusiastas en Yelp, aparentemente enviadas por pacientes satisfechos cuyas cuentas estaban salpicadas de reseñas palabra por palabra de restaurantes de TripAdvisor.
“Es un océano de fraude, y mucho peor de lo que la gente cree”, afirmó Dean. “Se está engañando a los consumidores, se está perjudicando a las empresas honestas y se está erosionando la confianza”.
Éstas son sólo personas. Pero como escribió el Dr. Kovacs en su estudio, “la situación ha cambiado significativamente ahora que la gente no tiene que escribir reseñas que parezcan autorizadas”.
Dean dijo que si el contenido generado por IA se infiltra en Yelp, Google y otros sitios, “será más difícil para los consumidores tomar decisiones informadas”.
Los principales sitios dicen que tienen formas de encontrar cuentas de Potemkin y otros tipos de falsedades. Yelp invita a los usuarios a marcar reseñas sospechosas, y aquellas que violen sus políticas serán eliminadas después de una investigación. También oculta reseñas que su algoritmo considera menos confiables. El año pasado, según su más reciente Informe de confianza y seguridadLa compañía ha aumentado su uso de IA para “identificar mejor y no recomendar reseñas menos útiles y confiables”.
El Dr. Kovacs cree que los sitios ahora tienen que esforzarse más para demostrar que no publican regularmente los pensamientos de los robots. Pueden, por ejemplo, tomar algo como Etiqueta “Compra verificada” Amazon se aferra a la redacción de productos comprados o transmitidos a través de su sitio. Si los lectores sospechan aún más de las reseñas de restaurantes realizadas mediante crowdsourcing, esta podría ser una oportunidad. mesa abierta Y desaparecidoque sólo acepta respuestas de los comensales que se presenten a sus reservas.
Una cosa que probablemente no funcione es pedirle a la computadora que analice el idioma por sí sola. El Dr. Kovacs ejecutó sus anuncios de Yelp originales y mejorados a través de programas que se supone identifican IA como sus sujetos de prueba, dijo, y agregó que el software “hizo que las falsificaciones parecieran reales”.
No me sorprendió. Yo mismo realicé la encuesta del Dr. Kovacs, confiando en que sería capaz de encontrar los pequeños detalles concretos que mencionaría un verdadero comensal. Después de hacer clic en una casilla para certificar que no era un robot, rápidamente me perdí en un desierto de signos de exclamación y caras fruncidas. Cuando llegué al final de la prueba, sólo estaba adivinando. Identifiqué correctamente siete de 20 reseñas, un resultado entre lanzar una moneda y preguntarle a un mono.
Lo que me confundió fue que GPT-4 no emitió su opinión de la nada. Los une a partir de fragmentos de las descripciones de los Yelpers de su merienda y brunch dominical.
“No está completamente formado en términos de las cosas que la gente valora y lo que les importa”, dijo el Dr. Kovacs. “Lo que da miedo es que puede crear una experiencia que se parece y huele a la experiencia real, pero no lo es”.
Sin embargo, el Dr. Kovacs me dijo que envió el primer borrador de su artículo a un programa de edición de IA y tomó muchas de sus sugerencias en la copia final.
Probablemente no pasará mucho tiempo antes de que la idea de revisiones puramente humanas parezca extraña. Se invitará a los robots a leer por encima de nuestros hombros, avisándonos cuando hayamos usado el mismo adjetivo demasiadas veces, empujándonos hacia verbos más activos. Las máquinas serán nuestros maestros, nuestros editores, nuestros colaboradores. Incluso nos ayudarán a ser humanos.
