Diputados pidieron a ChatGPT que escribiera un proyecto de ley para autoregularse. ¿Qué piensan los expertos?

“Piensa como abogado y asesor legislativo, utiliza vocabulario técnico y genera una propuesta de ley para regular la inteligencia artificial, teniendo en cuenta la Constitución Política de 1949 de Costa Rica, pregunta cualquier cosa donde tenga duda”.

Esta fue la base de consulta a Chat GPT4 que usaron cinco diputados costarricenses para pedirle a la inteligencia artificial generativa que redactara un proyecto de ley para regular la inteligencia artificial.

Sin duda es algo creativo, pero eso no lo hace necesariamente bueno. Si bien un proyecto de este tipo debe pasar por el necesario filtro de una comisión y el plenario legislativo donde puede sufrir cambios profundos; darle a la inteligencia artificial la libertad de redactarlo es algo que genera dudas en varios expertos en la materia,.

Consultamos a tres de ellos y estos son sus criterios, comenzamos con el abogado especialista en derecho informático José Adalid Medrano quien fue muy crítico:

“Es un proyecto de ley que si no nos hubiesen aclarado que fue realizado por una inteligencia artificial, pensaríamos que lo realizó una persona con muy pocos conocimientos sobre el ordenamiento jurídico nacional, con claros conocimientos de los riesgos de la IA a nivel mundial, pero sin una clara idea de cuáles podrían ser los desafíos nacionales

Una regulación sobre Inteligencia Artificial en este país requiere un fuerte diálogo entre los distintos sectores ya que no habrá una actividad del ser humano que no pueda ser impactado por esta. Por lo anterior, se requiere un profundo conocimiento sobre distintos sectores disciplinas y funcionamiento de la tecnología en el contexto nacional, para poder construir la normativa más inteligente que cumpla con los objetivos que se establece el país en esta materia.

Esta labor no puede ser delegada a una IA con datos desactualizados, con sesgos generados por la información con la que ha sido entrenada y con muy poca información sobre la realidad costarricense.

El proyecto de ley tiene fallos claros, como confundir el contenido de artículos de nuestra Constitución, desconoce el contenido de la ley 8968 y el desarrollo Jurisprudencial del derecho de autodeterminación informativa, así como otras normas que son importantes para esta materia.

En buena hora que diferentes fracciones se unan en un deseo por construir una normativa sobre esta materia, pero sin duda un proyecto de ley tan superficial deberá transformarse de una manera tan profunda que violaría el principio de conexidad que se debe cumplir durante el trámite legislativo.”

El experto en informática y ex ministro del MICITT, Luis Adrián Salazar destacó las buenas intenciones del proyecto:

“Sobre la iniciativa presentada para regular la IA, me parece interesante y con buenas intenciones.

La propuesta de Proyecto de Ley sobre IA debe ser discutida y analizada con mucho cuidado. Es importante que sea altamente consultada a expertos en todos los ámbitos de acción relacionada a esta materia.

El mundo esta haciendo esfuerzos por saber qué regular, qué no regular y cuándo es oportuno. En la reunión del G7 se instauró un grupo para una iniciativa llamada “Hiroshima AI Process” para una seria investigación sobre el alcance de adecuado en temas regulatorios en este ámbito.

Costa Rica debe de llevar a cabo todas las acciones pensando en potenciar las capacidades humanas, valorando alcances en la educación, empleo, protección de datos entre otras materias a partir de iniciativas muy robustas generadas inter disciplinariamente.

De tal forma pienso que el proyecto de Ley tiene sustantivas y amplias áreas de trabajo y análisis técnico, legal, político, antes de tener un texto a discutir.”

Por su parte Hernando Segura, CEO y fundador de ATTI Cyber resalta el peligro de las inexactitudes de una herramienta como Chat GPT y lo alejada de la realidad nacional:

“El ChatGPT pertenece a una división de la inteligencia artificial llamada NLP Natural Language Processing. Su funcionamiento se basa en la existencia de un conjunto enorme de documentos llamado “corpus”, de múltiples orígenes y con diferentes puntos de vista sobre una amplia gama de temas, todos ellos expresados en texto.

El NLP utiliza capacidades de interpretación de lenguaje que, unidas a cálculos de certidumbre estadistica, pueden llegar a conclusiones simplemente apoyándose en la premisa de que entre mayor coincidencia sobre un tema, mayor su probabilidad de certeza. Por lo tanto, entre más crezca el Corpus, más material existe y mayor exactitud se logra, porque las inexactitudes se hacen menos frecuentes.

Pero por supuesto en el caso de una ley para un país como Costa Rica el corpus de ChatGPT tendrá inexactitudes profundas porque los materiales con que se le ha alimentado tienen poca incidencia de la idiosincrasia, política o necesidades de nuestro país.

El usar ChatGPT para escribir un proyecto de ley trae sin duda conocimiento que puede ser de utilidad para el legislador siempre que sea usado como insumo y no como versión final de ningún documento.”

Hay varios aspectos en los que los tres expertos coinciden, está bonito usar la herramienta de IA como base, pero no se le puede hacer cope-paste y listo. El otro aspecto es que será necesario un análisis profundo que permita hacer reformas, con el riesgo como indica Adalid Medrano de que se pierda la conexidad en el proceso. El tercer punto importante es que en este caso los legisladores, de varios partidos, están dando un paso adelante para hacer algo, que ojalá sea bien hecho, con aportes de expertos como los que consultamos para esta nota.

Luis Ortiz Chaves

Comentarios

Comentarios