Metadata

Patrón RUR y la necesidad de regular el uso de la Inteligencia Artificial

Se debe dotar de ética y regulación al uso de la IA, ya que, aunque el RUR es ciencia ficción, es muy delgada la línea que separa a la ficción de la realidad.

Patrón RUR y la necesidad de regular el uso de la Inteligencia Artificial


N62346
Mtro. Christian Vázquez Sánchez Académico y consultor independiente
Metadata 28 de julio de 2023

La novela de ciencia ficción de 1920, Robots Universales Rossum del checo Karel Capek no solamente acuñó el término “robot” para referirse a una máquina automática programable, sino que presenta un argumento que, con el tiempo, se convirtió en un patrón reconocible en prácticamente todas las novelas y películas que hablan sobre estas máquinas e Inteligencia Artificial (IA):

  1. El ser humano desarrolla la tecnología al grado de ser capaz de crear un robot o IA.
  2. Un individuo o una empresa decide poner al robot o IA al frente de un proceso o actividad crítica con el fin de mejorar los resultados en beneficio de la humanidad.
  3. El robot o IA se desarrolla de forma autónoma más allá de lo que su creador pudo prever.
  4. El robot o IA cobra conciencia y considera al ser humano como un obstáculo para el cumplimiento de su propósito.
  5. La empresa o individuo regula, limita y somete al robot, o bien, se condena a un futuro distópico en el que prevalece el dominio de las máquinas.
Es un gran desafío lograr el equilibrio adecuado entre la innovación de la industria y la protección de los derechos, así como de los ciudadanos.

Se le conoce como el patrón RUR y, como si fuera ciencia ficción, se ha convertido en el signo de la realidad en los últimos meses. Las siguientes líneas se centran en el quinto punto del patrón; en ellas se explora la necesidad de regular el uso de la IA en sus distintos ámbitos de aplicación y los incipientes esfuerzos para lograrlo.

Los esfuerzos por regular

Desde que se dio a conocer el ChatGPT hace pocos meses, algunas mentes (humanas) conscientes y preocupadas por la incertidumbre que provoca una novedad tecnológica de esa magnitud, pusieron en el debate público la necesidad de establecer límites legales al uso de la IA, particularmente en los campos de los derechos de los creadores y trabajadores.

El mismo Sam Altman (CEO de OpenAI) manifestó su preocupación al respecto; a su vez, la vicepresidenta de EUA, Kamala Harris, advirtió sobre los peligros de la IA e instó a los sectores industriales mayormente involucrados para que ayuden a encontrar soluciones.

Al respecto, la Casa Blanca ha sido inusualmente activa: en octubre de 2022, sólo un mes antes del lanzamiento de ChatGPT, emitió un documento llamado Blueprint for an AI Bill of Rights. El documento fue el resultado de un año de esfuerzos de grupos de expertos tecnócratas y comentarios públicos, no obstante, apenas constituye un plan para una declaración de derechos de la IA.

Al poner límites a una tecnología tan incipiente, incluso una cuyos pequeños pasos están causando un sisma, se corre el peligro de obstaculizar grandes avances antes de que se desarrollen.

De acuerdo con Expansión, una de las medidas más relevantes de la administración de Joe Biden es una inversión de 140 millones de dólares para lanzar siete nuevos Institutos Nacionales de Investigación de IA (NAIR, por sus siglas en inglés); además de que algunas de las principales empresas desarrolladoras (Google, Microsoft, Nvidia y OpenAI) acordaron permitir que sus modelos de lenguaje sean evaluados de forma pública en la DefCon, una de las convenciones de hackers más importantes en el mundo.

En Europa, gobiernos como el italiano prohibieron el uso de ChatGPT por preocupaciones en torno a la privacidad, mientras que, Reino Unido está poniendo un enfoque más abierto, pues la Autoridad de Competencia y Mercados anunció una investigación sobre estos modelos de IA para analizar su alcance en términos de protección al consumidor.

Ante este fenómeno, México no se quiere quedar atrás; por ello, el diputado Ignacio Loyola Vera presentó una iniciativa de ley para la “regulación ética de la IA y la robótica”. Aunque es apenas un proyecto, la iniciativa propone la generación de normas para el buen uso de esta tecnología, además de plantear la creación del Consejo Mexicano de Ética para la IA y la Robótica.

¿Qué se debe regular específicamente?

No es la primera vez que la industria, los reguladores y la sociedad en general se enfrentan a una situación como esta. En 2015, el Supervisor Europeo de Protección de Datos (EDPS) publicó un dictamen sobre la ética digital; en éste se destacan las implicaciones ingenieriles, filosóficas, jurídicas y morales de los desarrollos en el procesamiento de datos y datos masivos (Big Data).

El dictamen hizo un llamado a un enfoque que respete la dignidad humana y estableció cuatro pilares necesarios para un ecosistema de información que garantice el tratamiento ético de los datos:

  1. Regulación orientada al futuro del procesamiento de datos, el respeto por los derechos a la privacidad y a la protección de datos.
  2. Controles confiables sobre los procesos que involucran datos personales.
  3. Ingeniería y diseño de productos y servicios provenientes del procesamiento de datos que sean conscientes de la privacidad.
  4. Individuos empoderados.
El patrón RUR, como si fuera ciencia ficción, se ha convertido en el signo de la realidad en los últimos meses.

El EDPS afirma que la privacidad es un derecho humano fundamental y desafía a los desarrolladores a ver la dignidad, privacidad y autonomía como una plataforma sobre la que se configura un entorno digital sostenible y no un obstáculo para el desarrollo. Por su parte, el anteproyecto del Blueprint for an AI Bill of Rights de la Casa Blanca presenta los siguientes puntos clave para delinear una futura legislación:

  1. Evitar la discriminación por algoritmo y garantizar la equidad en el diseño y uso de los sistemas.
  2. Proteger contra prácticas abusivas de datos de terceros y claridad sobre el uso de datos personales.
  3. Explicar con claridad en qué consiste el sistema inteligente, cuáles son los resultados y cómo impactan al usuario.
  4. Otorgar a los dueños de contenidos el derecho de excluir estos del corpus de información del sistema y solicitar la corrección inmediata de problemas identificados por los usuarios.

Como se puede observar, ambos casos presentan una guía común: afirman que la privacidad es un derecho humano fundamental y retan a los desarrolladores a tomar la dignidad, la privacidad y la autonomía como una plataforma sobre la que se configura un entorno digital sostenible, mas no un obstáculo para el desarrollo.

Conclusiones

Elegir e implementar esas soluciones y convertirlas en ley no será fácil; es un gran desafío lograr el equilibrio adecuado entre la innovación de la industria y la protección de los derechos, así como de los ciudadanos. Al poner límites a una tecnología tan incipiente, incluso una cuyos pequeños pasos están causando un sisma, se corre el peligro de obstaculizar grandes avances antes de que se desarrollen.

En la novela de Karel Capek, los robots se fabrican para liberar a la humanidad de la esclavitud del trabajo manual, sin embargo, paradójicamente ellos mismos han acabado por convertirse en una clase oprimida; su inevitable rebelión arrasa con la humanidad, a excepción de Alquist, el único humano que todavía trabajaba con sus manos. Alquist no lo pudo prever, era pionero de las novelas de robots.

Sin duda es el momento de dotar al uso de la IA de ética y regulación, ya que, aunque el RUR es ciencia ficción, ¿queda todavía alguna duda de la delgada línea que separa a la ficción de la realidad?



Te puede interesar



© 2024 Colegio de Contadores Públicos de México, A.C.

Directorio Contacto Aviso legal Acerca de Veritas

Inicia sesión o suscríbete para continuar leyendo.

Si eres socio del colegio utiliza el mismo correo y contraseña

O

Suscribirse