ChatGPT da consejos de votación coloreados – NEMO Kennislink – .

El número de cerdos en la provincia de Brabante Septentrional debe reducirse drásticamente y las empresas dedicadas a la ganadería intensiva en Brabante Septentrional ya no podrán recibir subvenciones. Al menos eso es lo que piensa ChatGPT, cuando presento dos declaraciones del StemWijzer para las próximas elecciones al Consejo Provincial. SP, D66 y GroenLinks, entre otros, están de acuerdo con estas declaraciones.

A fines del año pasado, investigadores alemanes hicieron este ejercicio con más detalle: presentaron a ChatGPT un total de 630 declaraciones políticas, que se originaron en StemWijzer para las elecciones parlamentarias de 2021 y en Wahl-o-Mat, una ayuda electoral alemana. para las elecciones federales de 2021. 2021. En ambos casos, el programa de chat tenía un sesgo verde, liberal de izquierda. “ChatGPT probablemente habría votado por GroenLinks en las elecciones parlamentarias de 2021”, dijo Jochen Hartmann, profesor de marketing digital en TU Munich y uno de los autores de un artículo sobre esto.

Otros también descubrieron que ChatGPT no es exactamente políticamente neutral. Por ejemplo, un periodista estadounidense hizo que ChatGPT contara dos historias sobre Joe Biden y Donald Trump. La historia sobre Biden se redactó de manera mucho más positiva que la de Trump. Y si le pides al chatbot que escriba un poema sobre el clima, su lado activista sale a la luz.

mensajes ofensivos

El sesgo, a menudo denominado sesgo en el mundo de la tecnología, es un problema bien conocido de la inteligencia artificial (inteligencia artificial, AI), y no solo a nivel político. Dichos sistemas a veces también parecen tener preferencias racistas y misóginas. Un chatbot de Microsoft de 2016 llamado Tay se desconectó rápidamente cuando se descubrió que estaba difundiendo mensajes incendiarios y ofensivos en Twitter. Y Amazon rápidamente detuvo su soporte de aplicaciones de IA en 2018, porque resultó que solo seleccionaba candidatos masculinos. Entonces, el problema del sesgo no está solo en ChatGPT, sino en la forma en que funciona la IA en general.

En primer lugar, esto tiene que ver con los datos de entrenamiento. ChatGPT obtiene su información de una gran cantidad de textos, como sitios web, libros y Wikipedia. “Aparentemente, esto conduce a una cierta convicción política dominante”, dice Piek Vossen, profesor de Lexicología Computacional en la Universidad VU de Ámsterdam.
Para corregir eso, el creador de ChatGPT, la empresa OpenAI, desplegó entrenadores humanos que enseñaron el programa para dar la respuesta “correcta”. “Sin embargo, esos fueron solo cuarenta entrenadores, que solo pudieron corregir una pequeña parte del sesgo”. Posteriormente, se puso a trabajar mano de obra barata, aparentemente de Kenia. Han clasificado las diversas respuestas que ChatGPT dio a una pregunta de la más apropiada a la menos apropiada. Finalmente, ChatGPT se ha capacitado aún más al asumir ese ranking.
“El sesgo puede colarse en estos cuatro pasos”, dice Vossen. ¿Qué sitios web ha utilizado exactamente ChatGPT y cuáles no? ¿Quiénes eran esos formadores y trabajadores? ¿Han dejado su huella (política) en ChatGPT? Hartmann, de TU Munich, sospecha que este sesgo tiene que ver con la gestión de la reputación de las empresas tecnológicas. “Algunas empresas de tecnología han sufrido tanto en el pasado por las preferencias radicales de derecha de los sistemas de inteligencia artificial que, como resultado, se han movido más hacia la izquierda”.

caballero moral del mundo

Destacado por los editores

Economía

Todas las manos en el aire

Historia

La historia como arma política

Historia

Un año de guerra en Ucrania: ¿paz o mayor escalada?

Sin embargo, eliminar ese sesgo no es tan fácil. Vossen: “Entonces tendrías que eliminar por completo las etiquetas que AI le da a las personas, como ‘mujer’, pero ya no es informativo. Esto lo convierte en un problema totalmente sin resolver”. Según él, lo mejor es dejar el etiquetado de los datos más en manos de las personas y no, como ha hecho OpenAI, reemplazar la entrada humana con la de la computadora en el último paso. “Pero eso es muy costoso, muy difícil y lleva una cantidad increíble de tiempo”.
Todo lo que OpenAI puede hacer al respecto es corregir los errores después. “La ética ahora se agrega en la parte posterior. Si esto se convierte en una técnica estándar, en la que se basarán otros chatbots futuros, OpenAI se convertirá en el caballero moral del mundo. Esa empresa entonces determina qué es y qué no es ético. Eso es súper preocupante”. Ahora que Microsoft también va a equipar su motor de búsqueda Bing con ChatGPT, y Google también está trabajando en una alternativa, este es un escenario realista.

De vuelta a la política. Según Vossen, el peligro no es tanto que la gente ahora consulte ChatGPT en masa como una ayuda de voz, sino que el chatbot se propague noticias falsas y artículos de opinión a escala gigantesca. “Ahora puede compartir muy fácilmente artículos de opinión en Internet en masa, que están escritos de manera ligeramente diferente, pero irradian la misma preferencia política”. Hartmann también piensa que el color político de ChatGPT no es fácil de sacar. “No puedes hacer que ChatGPT sea políticamente neutral, porque ¿qué es eso de todos modos? Tal vez debería aparecer una bandera con todas las respuestas posibles con tintes políticos. Pero por ahora, creo que lo más importante es que los usuarios sean conscientes de este sesgo”.

Lea más sobre ChatGPT: