IA: impacto, desafíos y riesgos

Entre el 10 y 16 de marzo, se llevó a cabo en la ciudad de Montevideo (Uruguay) el Encuentro Latinoamericano sobre Inteligencia Artificial. Los objetivos planteados incluían “capacitación en temas de machine learning avanzado, como deep learning y reinforcement learning”; “fortalecer la comunidad de machine learning a través del fomento de la colaboración entre investigadores latinoamericanos”; y “generar conciencia sobre cómo la Inteligencia Artificial puede ser usada como beneficio en América Latina”.

Adquirió resonancia en la agenda de medios una de las acciones tomadas durante el encuentro: la elaboración de una declaración que permitiera elaborar un diagnóstico, análisis y llamado de atención sobre riesgos y oportunidades del desarrollo de la Inteligencia Artificial a partir del impacto, a nivel global, del fenómeno del ChatGPT.

La Dra. Benotti junto a otros/as docentes/investigadores de la FAMAF, entre las/os que se destaca la Dra. Laura Alonso Alemany y el Dr. Javier Blanco, vienen realizando un trabajo comprometido sobre las posibilidades y dificultades que acompañan al desarrollo de la IA y cómo, en definitiva, a un análisis de aquello que sucede con cada nueva aparición en el universo de las tecnologías digitales, debe anteponerse una agenda que los ubique en un esquema global en el que hay dominantes y dominados. Así, de este modo, poder desnaturalizar la IA y colocarla en una dimensión social y política que requiere de controles, seguimientos y análisis en función de ejes tales como los derechos humanos, los problemas de sesgos y discriminación, las relaciones laborales y el lugar que se le asigna a Latinoamérica en la economía vinculada a los desarrollos tecnológicos.

Consignamos algunos extractos de la entrevista a Luciana Benotti:

Extractivismo: “Ahora aportamos datos crudos y recibimos inteligencia artificial casi de la misma manera que exportamos granos e importamos comida elaborada. En algún momento se tendrá que discutir qué tipo de impuestos se les cobrará a estas empresas por las ganancias que les genera el aporte de materia prima que hacemos con nuestros datos”.

Sesgos: “Son cosas que tienen impacto en lo que consumen las personas, por ejemplo, cuando uso la opción de autocompletar en el buscador. Lo que me sugiere, o los textos que me recomienda, es algo que está predeterminado culturalmente por quienes lo diseñaron. Son cosas que todavía no sabemos cómo impactan en nuestra sociedad, faltan estudios al respecto y tampoco hay financiamiento para hacerlos”.

Caja negra: “A veces no sabemos bien cómo se producen estos errores y es necesario entender dónde se pueden equivocar. Lo que sucede es que cuando trabajamos con redes neuronales profundas perdemos explicabilidad y a veces no podemos explicar un error. Otra cosa poco estudiada es que uno de los errores es la alucinación, el inventar hechos que parecen ciertos, pero son falsos. Inclusive puede ser que durante un tiempo el sistema siga inventando y dando detalles que parecen ciertos. Es algo que sucede con Chat GPT y que debe estudiarse más”.

IA y LATAM: “Hay un gran potencial para desarrollar inteligencia artificial local y a bajo costo para automatizar trabajos rutinarios, es una mentira que es costosa porque además hay mucho software abierto”, dice Benotti, quien destaca otra oportunidad grande para trabajar en la “sintonía fina” que permite adaptar estos grandes modelos de lenguaje a uno en particular, como, por ejemplo, una determinada variante del español. “Eso puede hacer que un sistema de recomendación de productos pueda funcionar mucho mejor que con un modelo genérico”

• Artículo de Le Monde Diplomatique
  
• Declaración Declaración de Montevideo sobre Inteligencia Artificial y su impacto en América Latina
  

La Dra. Luciana Benotti, especialista en Procesamiento del Lenguaje Natural, primera latinoamericana en asumir la presidencia de la Asociación Norteamericana de Lingüística Computacional, firmante, junto a la Dra. Laura Alonso Alemany, de la Declaración de Montevideo.