De manera similar, en fechas recientes ha surgido el concepto de AI washing (lavado de Inteligencia Artificial [IA]), que se refiere al hecho de que las empresas exageran el uso de IA en sus productos y servicios, esto con el fin de parecer más tecnológicas e innovadoras de lo que realmente son.
En las siguientes líneas se explora el fenómeno del AI washing y se plantean algunas ideas sobre sus implicaciones, posibles riesgos, así como la manera de detectarlo, para no caer en engaños ni incurrir en costos innecesarios.
Considere el siguiente ejemplo. El autor de este artículo utilizó los algoritmos de búsqueda avanzada y los modelos de lenguaje de Google, las funciones de autocompletar y corrección ortográfica de última generación de Microsoft Word, así como información de los algoritmos de recomendación de YouTube, LinkedIn y la aplicación Apple Podcasts.
¿Lo anterior fue generado con IA? Técnicamente, se generó con la ayuda de IA, sin embargo, de eso a decir que es un artículo generado por esta herramienta, hay una distancia enorme. La afirmación podría ser catalogada como AI washing.
En términos básicos, AI washing es una táctica de marketing que emplean las empresas para exagerar la cantidad de esta tecnología que utilizan en sus productos. El objetivo de esta práctica es hacer que las ofertas de una empresa parezcan más avanzadas de lo que son y capitalizar el creciente interés en la tecnología. El lavado de IA toma su nombre del greenwashing
Los más escépticos acerca de las capacidades y el potencial de esta herramienta afirman que todo lo que hoy se llama IA es, en realidad, AI washing; esto porque las computadoras aún no son capaces de tener una verdadera inteligencia. Sin embargo, vale la pena acotar dicha percepción; para ello, un comunicado de prensa en 2023 de The Federal Trade Commission (FTC) detalla algunas preguntas básicas, mismas que una organización puede responder para determinar si está realizando AI washing:
| ¿Está exagerando lo que puede hacer su producto de IA? | ¿Promete que su producto de IA hace algo más que un producto que no es de IA? |
| Las afirmaciones sobre la mejora del rendimiento deben ser incondicionales y tener pruebas científicas que las respalden. | Es necesario que haya pruebas adecuadas para hacer esta afirmación, ya que, puede usarse para justificar un aumento de precio de un producto o influir en decisiones laborales. |
| ¿Es consciente de los riesgos? | ¿El producto utiliza siquiera IA? |
| Los proveedores de IA son responsables de los efectos de sus productos una vez en el mercado. | El uso de una herramienta de IA en el proceso de desarrollo no hace que una oferta de producto esté "impulsada por IA". |
Aunque puede parecer el tipo de fanfarronería de marketing inofensiva a la que todos estamos acostumbrados en el campo de la tecnología empresarial, el AI washing crea algunos desafíos y riesgos reales.
A nivel macro, el AI washing podría promover la monocultura en la industria. Una monocultura en informática se refiere al hecho de que un grupo de computadoras ejecutan un software idéntico; es decir, muchos proveedores, cada uno de los cuales promociona sus propios modelos de IA "únicos", podrían estar utilizando sólo unos pocos modelos de IA subyacentes diferentes y, mediante el marketing, diferenciar productos que, en principio, utilizan la misma tecnología.
El fenómeno podría sofocar la verdadera innovación y erosionar la confianza de los consumidores e inversionistas, además de generar expectativas infladas sobre lo que esta tecnología es capaz de lograr.
Engañar a los consumidores sobre los beneficios ambientales de un producto o negocio, se ha convertido en un nuevo estándar de marketing.
Los proveedores pueden participar en el AI washing por diferentes motivos:
Según Ben Lutkevich, editor del sitio especializado, Software Quality, las siguientes son algunas estrategias para detectar el AI washing:
| Solicitar pruebas: al considerar las herramientas de IA, solicite pruebas contundentes de la forma en que se utiliza esta tecnología en las ofertas de productos. Esté atento a las respuestas vagas y observe si el producto depende, en gran medida, de un modelo de IA ubicuo utilizado en muchos productos diferentes. | Analizar el producto de manera integral: los compradores no deberían buscar un producto únicamente porque incorpora IA. Los equipos de compras deben analizar el producto completo y considerar todos los beneficios y desafíos potenciales asociados, especialmente, si las características de IA están en duda. |
| Involucrar a Tecnologías de la Información (TI) en las compras: establezca una cultura colaborativa que involucre a TI en el proceso de compra y evite que el equipo caiga en las exageraciones del marketing. | Mantenerse actualizado sobre las noticias de la industria: a medida que esta herramienta se desarrolla y más empresas incorporan la tecnología, los equipos de compras pueden aprender qué funciona y qué no, esto a partir de las pruebas y tribulaciones de otras empresas. |
Para contribuir al desarrollo de un panorama de IA más honesto y transparente a largo plazo, resulta fundamental ser consumidores informados, críticos y, hasta cierto modo, escépticos.
En The Green lie, los actores Alex Maxwell y Vivian Elm se hacen pasar por representantes de la empresa ficticia Greenwashers Consulting y hacen greenwashing en conferencias y ferias comerciales en todo EUA. Ser buenos consumidores de IA evitará la existencia de una AI washing Consulting y que se viva en una gran mentira inteligente.
Los datos en tiempo real, así como la analítica vista como un servicio, representan el futuro en el panorama actual de transformación digital.
Christian Vázquez Sánchez
Como consecuencia de distintos factores económicos a nivel global, las expectativas a futuro advierten una caída en los precios de las acciones de empresas tecnológicas.
José Luis Vásquez Costa
Las plataformas tecnológicas han dejado su carácter especulativo y han pasado a ser parte esencial de las organizaciones.
Christian Vázquez Sánchez
Las mentalidades o “mindsets” ayudan a tomar resoluciones de calidad en las organizaciones, con una perspectiva más objetiva y clara.
Christian Vázquez Sánchez
© 2024 Colegio de Contadores Públicos de México, A.C.
Directorio Contacto Aviso legal Acerca de Veritas
Inicia sesión o suscríbete para continuar leyendo.