Lo legal y lo ético
LECCIÓN 04 DE 074 min de lectura

El sesgo aparece solo

Al terminar esta lección

Vas a reconocer los desequilibrios que la IA trae de fábrica y a evitar que tu contenido los repita sin que te des cuenta.

La IA aprendió de lo que hay escrito y publicado en internet. Y lo que hay publicado no representa al mundo por igual: hay más de unos países, de unos idiomas, de unas edades y de unos cuerpos que de otros. Eso se cuela en lo que produce, sin que nadie lo pida.

El sesgo no es una opinión política: es un hecho técnico con consecuencias comerciales. La IA aprendió de textos e imágenes de internet, donde ciertas cosas están sobrerrepresentadas. Si le pides «una familia mexicana» sin más contexto, vas a recibir una versión bastante específica y bastante repetida de lo que eso significa — y si publicas eso, tu marca se ve como cualquier otra y además le habla a menos gente de la que podría.

El sesgo también aparece en el texto, no solo en las imágenes, y ahí es más difícil de ver: en qué ejemplos usa, a quién asume como destinatario, qué da por hecho sobre quién tiene qué trabajo o qué presupuesto. Cuando un texto tuyo asume cosas sobre tu cliente que no son ciertas, ese cliente lo nota aunque no sepa explicar qué le chocó.

Esto también es un tema de negocio

Además de lo ético, hay una razón comercial: si todo tu contenido muestra un solo tipo de persona, le estás hablando a una parte de tu mercado y dejando fuera al resto. Corregir el sesgo no es corrección política, es ampliar a quién le puedes vender.

Cómo se ve en la práctica

!Esto no es un debate: es tu audiencia

Si tu cliente es de tu ciudad y todas tus imágenes muestran gente que no se le parece, tu contenido le habla a otro. Antes que un problema ético, es un problema comercial. Y también es lo otro.

Se corrige de la forma más simple que existe: siendo específico. El sesgo llena los huecos que tú dejaste, así que si no dejas huecos, no hay nada que llenar. En vez de «una persona trabajando en una oficina», di quién, de qué edad, con qué aspecto y en qué tipo de oficina — que además es lo que necesitas para que la imagen se parezca a tu cliente real.

Revisa el conjunto, no cada pieza. Una imagen sola no dice nada; treinta juntas sí. Cuando termines un lote, míralo completo: si en las treinta aparece el mismo tipo de persona, el mismo tipo de casa y el mismo tipo de vida, tu contenido le está hablando a una fracción de tu mercado sin que tú lo decidieras.

!También aparece en lo que NO genera

A veces el sesgo no está en lo que produce sino en lo que omite: los ejemplos que no se le ocurren, los casos que no considera, los públicos que da por inexistentes. Por eso vale la pena preguntarle explícitamente «¿qué caso no estás contemplando?» cuando trabajes en algo que va dirigido a mucha gente.

Cómo se corrige

  1. 1Sé explícito en vez de esperar a ver qué sale: describe edad, tono de piel, complexión y contexto que correspondan a tu público real.
  2. 2Usa referencias reales de tu gente. Una foto de tu clientela vale más que cualquier descripción.
  3. 3Revisa el conjunto, no la pieza. Una imagen suelta no dice nada; treinta juntas sí muestran a quién estás retratando.
  4. 4En textos, revisa los supuestos: ¿este consejo funciona para alguien con el presupuesto de mi cliente?
  5. 5Pregúntale directamente: «¿qué supuestos hiciste sobre esta persona que yo no te dije?».

La prueba del conjunto. Pon todo lo que produjiste este mes junto y pregúntate: si alguien viera solo esto, ¿a quién pensaría que le hablo? Si la respuesta no es tu cliente, ahí está el trabajo.

Ejercicio

Revisa a quién estás retratando

Con lo que ya produjiste, no con ejemplos.

  1. 1Junta todas las imágenes con personas que hayas generado.
  2. 2Anota qué edades, tonos de piel y contextos aparecen, y cuáles no.
  3. 3Compáralo con tu clientela real.
  4. 4Escribe las reglas explícitas que vas a agregar a tus prompts para corregirlo.

Qué entregas

Tu comparación entre a quién retratas y a quién le vendes, y las reglas que agregaste.

Si solo te llevas tres cosas de esta lección

Marca la lección cuando hayas hecho el ejercicio, no cuando termines de leer. Ese es el trato.

Siguiente lección →
← Lección anteriorTodas las lecciones