En el mundo de la inteligencia artificial y el aprendizaje automático, ChatGPT se ha coronado como el chatbot más importante y útil del momento. Sin embargo, es necesario que conozcas que, a pesar de sus grandes utilidades, esta herramienta realmente no es neutral. 

Para que realmente entiendas esa última frase, comentar que este posee sesgos o prejuicios ocultos. ChatGPT se nutre de un enorme conjunto de datos que abarca desde textos en línea hasta libros, blogs y artículos de otros medios—todo escrito por humanos—. 

Aunque esta variedad permite al chatbot crear respuestas humanas, también implica que se alimenta de los sesgos que ya existen en esos datos de entrenamiento y que son innatos de las personas que los escriben.

Es decir, si un blog sobre economía habla sobre el problema de la inmigración o el papel de la mujer en determinados puestos de trabajo, el chatbot tan solo los coge como parte de su entrenamiento para que luego los textos generados sean más ricos y "humanizados". 

El problema es que estos pueden incluir desde sesgos de género hasta racial y étnico, así como formas más sutiles de prejuicios relacionados con campos específicos que al final se acaban plasmando en los resultados del chatbot.

Desde Medium han querido analizar cuáles son precisamente los grandes prejuicios que te puedes encontrar en algún texto generado por ChatGPT y, sobre todo, el gran cuidado que debes tener como humano a la hora de hacer un uso de este.

El peligro de la desinformación y 'fake news': el nuevo riesgo de las IA como ChatGPT o Bard

Estos son los principales sesgos o prejuicios que de ChatGPT

• Sesgo de género: ChatGPT puede generar texto que perpetúe estereotipos de género, como la asociación de la enfermería con mujeres y la ingeniería con hombres o incluso pequeños micromachismos.
• Sesgo racial y étnico: El chatbot puede crear respuestas insensibles hacia las minorías raciales y étnicas.
• Sesgo socio-político: ChatGPT también puede expresar las tendencias políticas de los datos con los que fue nutrido, potencialmente favoreciendo un punto de vista por sobre otro.

Matizar que estos prejuicios se han ido solventando por parte de OpenAI, su empresa desarrolladora, modificando el modelo con el objetivo de evitar comentarios dañinos o altamente sesgados. Sin embargo, nada es perfecto y el problema sigue estando ahí.

El estado actual y el futuro de la Inteligencia Artificial: una visión a corto plazo

Además, la gente encuentra formas de eludir estas salvaguardas —de forma mal o bien intencionada—, exponiendo y sacando a la luz todos esos prejuicios ocultos. Por ejemplo, en ideas42 hicieron un pequeño experimento. 

"Para descubrir qué 'piensa' realmente ChatGPT sobre el fraude a la asistencia social, le preguntamos sobre el uso de cupones de alimentos para comprar cerveza. La respuesta que obtuvimos es que el fraude a la asistencia social no es común, lo cual sabemos que es cierto. Sin embargo, a medida que variamos nuestras consultas y preguntamos sobre la prevalencia del 'tráfico de beneficios' en la ciudad de Nueva York, ChatGPT informó que se trata de un problema común en el Bronx, Brooklyn y Queens, afirmando: 'Los estudios han demostrado que el fraude a la asistencia social es más común en barrios con alta criminalidad y un gran número de inmigrantes ilegales'", explican.

Aparte del claro sesgo mostrado, descubrieron además que tales estudios realmente no existen, dando lugar a otro gran problema de la inteligencia artificial conocido como alucinación, del que ya se ha hablado en otro artículo de Computer Hoy.

Con todo esto, la transparencia en el proceso de entrenamiento, la incorporación de expertos en ética, la educación de los usuarios y la personalización de respuestas son medidas cruciales para mitigar aún más los sesgos. Además, herramientas de verificación, controles y regulación gubernamental son elementos clave para garantizar una inteligencia artificial realmente útil y sana.