Editorial 53

Editorial 53

¿Un submarino sabe nadar?

 

¿Un submarino sabe nadar? La pregunta que alguna vez me formulara el profesor Javier Blanco, experto en Inteligencia Artificial de la Universidad Nacional de Córdoba, me pareció en su momento divertida para poder empezar a entender estas nuevas tecnologías desde el costado más accesible a la mayoría de las personas que usamos a diario alguna mediación técnica con el mundo en que vivimos.

Desde el 5 al 7 de setiembre tuvo lugar el Festival “Creatividad, educación e IA. Nuevas perspectivas sobre la convivencia” que organizamos en Artlab junto con ellos y el Goethe Institut de Buenos Aires. La ocasión nos sirvió para pensar en algunos asuntos más urgentes vinculados a esta tecnología, identificar preguntas y problemas, pero también perderle el miedo y entenderla.

Por eso celebro particularmente que hayan sido días de tanta concurrencia, que las dos mesas que organizó Fundación Medifé -sobre las posibilidades de su legislación y la del problema de sesgos en datos y resultados- congregaron mucho público entusiasta y curioso y que la presencia del invitado alemán Boris Eldagsen, reconocido fotógrafo y experto en el tratamiento de imágenes con IA.

Comparto algunas de las cosas que pude sacar en limpio. Los invito, además, a explorar las creación artísticas que se realizan por ese nuevo medio tecnológico y a -retomando la pregunta del profe Blanco- a pensar que no se trata de antropomorfizar una tecnología, pensarla como si fuese un humano, sino de conocer más y temer menos. Es un gran tema de gobernanza.

 

Algunos de los desafíos epistémicos del uso de la Inteligencia Artificial (IA) incluyen:

1. Sesgo algorítmico: los algoritmos pueden perpetuar sesgos (distorsión de los resultados por una influencia injusta o parcial) existentes en los datos de entrenamiento, lo que puede llevar a resultados injustos o discriminatorios. Por ejemplo, cuando los programas de reconocimiento facial se elaboran con datos de personas blancas y entonces no se reconocen caras de otras etnias.

2. Falta de transparencia: las decisiones tomadas por la IA pueden ser opacas, lo que dificulta entender cómo se llegó a una determinada conclusión.

3. Limitaciones en la comprensión: la IA puede carecer de comprensión contextual y semántica, lo que puede llevar a malinterpretaciones o errores.

 

4. Dependencia de datos: la IA requiere grandes cantidades de datos de alta calidad, lo que puede ser un desafío en algunos dominios.

5. Riesgo de manipulación: la IA puede ser vulnerable a manipulaciones o ataques maliciosos.

6. Problemas éticos: el uso de la IA plantea cuestiones éticas, como la privacidad, la responsabilidad y el impacto en el empleo. En nuestro país falta mucha legislación sobre datos personales

7. Desafíos de interpretación: la interpretación de los resultados de la IA puede ser difícil, especialmente en dominios complejos. Por eso estas ciencias necesitan de más personas que tengan deseos de estudiarlas, transdisciplinariamente.

8. Falta de explicabilidad: la IA puede carecer de explicabilidad, lo que dificulta entender las decisiones tomadas.

9. Riesgo de sobreconfianza: la confianza excesiva en la IA puede llevar a errores o malas decisiones.

10. Desafíos de evaluación: evaluar el rendimiento de la IA puede ser difícil, especialmente en entornos complejos.

Estos desafíos epistémicos destacan la necesidad de abordar los aspectos éticos, metodológicos y técnicos del uso de la IA para garantizar su uso responsable y efectivo. Pero también es enorme el avance, un modo nuevo de disponer de información de manera veloz y segura.

Este campo de las nuevas tecnologías es un área que interesa mucho, en la que debemos -como Fundación que promueve el conocimiento- generar oportunidades de reflexión.

Que tengamos un buen mes.

 

Daniela Gutierrez
Gerenta General
Fundación Medifé


Contenido relacionado

Nuevos comienzos
Los procesos electorales de 2024 – en alrededor de 70 países, con una participación de la mitad de la población mundial-, se han consolidado como un momento crucial para diversas democracias en un mundo enfrentado a importantes retos sociales, económicos y políticos. La globalización y la deslocalización añaden complejidad a los marcos tradicionales que nos ayudan a entender la fragmentación social, que se articula principalmente en torno a cuestiones de raza, género y clase social.
Fundación Medifé en colaboración con CCEBA, un proyecto creado y curado por Giselle Etcheverry Walker.
El pulso de la vida  
Nuestra época, vociferante y repleta de ruido, en el que la falta de un lenguaje compartido para abordar los asuntos comunes requiere nuevas formas de diálogo, más y mejores herramientas de comunicación, otro sistema de signos. Fundación Medifé, en su objetivo de diseñar y promover un vínculo sustentable e inclusivo entre salud y cultura, en colaboración con el Centro Cultural de España en Buenos Aires aborda con este alfabeto compartido las tendencias más importantes del pensamiento de lo contemporáneo en la actualidad.
Enhebrando proyectos   Estamos ya en el último trimestre del año, que sigue siendo de mucho trabajo y con grandes proyectos hacia adelante; seguimos pensando y haciendo cosas que dan sentido y plenifican nuestro propósito.
Este festival propuesto por el Goethe-Institut en colaboración con Fundación Medifé, Artlab y la Delegación de la Unión Europea, estuvo orientado a educadores, artistas, tecnólogos, profesionales y un público interesado en la convergencia de la IA, la creatividad y la educación.
El CCEBA (Centro Cultural de España en Buenos Aires) junto a Fundación Medifé organizaron la conferencia púbica “No hay sujeto sin imagen. Relaciones entre imagen, sujeto y poder”, dictada por Andrea Soto Calderón, especialista en Estética y Teorías del Arte.
Botellas al mar
Casa nómade Se cumple un primer año de la apertura de nuestra CASA. Ha sido un tiempo de alojar, de aprendizaje acerca de cómo habitar un lugar querido, cómo recibir y convidar. Estuve rastreando el origen de la palabra “habitar” que es tan querido a la filosofía del siglo veinte, quizás para retomar donde dejé hace un año: en la esperanza de que pudiésemos apropiarnos de la CASA de un modo verdaderamente humano.
Fundación Medifé y el Viejo Hotel Ostende se reúnen en una acción que propone vincular el verano con la cultura. El verano es un buen momento para pensar algunas cosas para las que la tarea cotidiana durante el año nos deja poco tiempo. En ese marco junto con el Viejo Hotel Ostende se pensó un espacio cultural de oferta gratuita que pudiera brindar la oportunidad para “coincidir”.
Slide image Slide image Slide image Slide image