Los peligros del ´Dios Inteligencia Artificial´

En una reciente conferencia Timnit Gebru, líder del movimiento por la diversidad en tecnología e IA, compartió recientemente su perspectiva sobre los peligros de la IA.

Gebru, fundador y director ejecutivo del Instituto de Investigación de Inteligencia Artificial Distribuida (DAIR), también es cofundador de Black in AI, una organización sin fines de lucro que busca visibilidad e inclusión de los negros en la industria de la tecnología.

Aunque Gebru ha sido reconocido por su trabajo, en diciembre de 2020, fue despedida de su puesto como codirectora del equipo de investigación de IA ética de Google después de negarse a retirar un artículo aún no publicado sobre los peligros de los modelos de lenguaje extenso.

Para ella esos algoritmos presentaban riesgos tanto en lo económico como social, ya que utilizan grandes conjuntos de datos para traducir y generar texto.

Sin embargo, luego del intento de acallarla Gebru no se detuvo, y fundó el Instituto DAIR en 2021, que tiene como objetivo mitigar los daños de la IA.

Según su sitio web, DAIR cree que los daños de la IA pueden prevenirse y que la producción y el despliegue de la IA deben incluir diversas perspectivas y procesos deliberados para que pueda ser beneficioso.

En su charla, Gebru se centró en los riesgos de la Inteligencia General Artificial (AGI). Mientras que la IA está destinada a completar solo tareas específicas, AGI puede completar todas las tareas que se le piden. Gebru argumentó que construir un sistema indefinido que suena como un dios no es la respuesta.

Esos algoritmos presentaban riesgos tanto en lo económico como social, ya que utilizan grandes conjuntos de datos para traducir y generar texto

Su reflexión se centro en que la gran tecnología construye sistemas como si tuvieran un modelo para todo, lo que no es posible, y aunque lo fuera, ¿es eso realmente lo que queremos?

Gebru ha publicado artículos sobre la explotación laboral detrás de la IA, así como el potencial de abuso de la tecnología floreciente.

Y también hizo referencia a modelos de texto a imagen que se utilizan para ejecutar campañas de acoso, crear "falsificaciones profundas" y sexualizar demasiado a mujeres y niñas.

La IA debería estar compuesta por "sistemas bien definidos y bien definidos", dijo Gebru.

El enfoque debe alejarse de AGI, y tratar de construirlo es una práctica intrínsecamente insegura. "Construimos lo que queremos construir, y debemos recordar eso", afirmó Gebru.

Es importante abordar las prácticas poco éticas en Big Tech y AI, incluida la explotación de los trabajadores. "En términos de estas herramientas, si tienen que ser éticas, muchas de estas organizaciones decidirán que no vale la pena. Creo que el primer paso es compensar adecuadamente a todos", dijo Gebru.

La visión y experiencia de Gebru en la intersección de la tecnología y el humanismo hacen que su charla sea una valiosa reflexión sobre la ética en la IA.

Original publicado en LinkedIn: Ariel Lusso

#inteligenciaartificial #trabajo #inteligencia #algoritmos #tech #google #ai