*Discurso del rector Carlos Garatea en la inauguración de Aula Magna 2023, realizada el 27 de noviembre

Empiezo agradeciendo a la vicerrectora académica, Dra. Cristina Del Mastro, y a su equipo de colaboradores por brindarme un espacio para compartir algunas ideas en torno a la “inteligencia artificial y sus desafíos a la Universidad”. No necesito insistir en la actualidad ni en el protagonismo que ha ganado la inteligencia artificial luego del confinamiento que nos impuso la COVID- 19, y de todos los cambios y apuros que generó el virus, aunque venía trabajándose en torno suyo desde mucho antes. Sí me parece necesario resaltar que estamos en la PUCP hablando sobre un tema de interés mundial. Lo señalo porque evidencia el desarrollo de nuestra Universidad, su renovación y la diversidad temática y científica que promueve nuestro crecimiento institucional y, sin duda, porque confirma el lugar preferente que tiene entre nosotros la discusión de los grandes temas, junto con las preocupaciones nacionales, en un equilibro que debemos conservar de la mano de nuestro compromiso con las peruanas y los peruanos. Una universidad que aspira a mantener la vigencia de las humanidades, de la ciencia, de las artes, de la investigación y a ofrecer una docencia de calidad debe andar siempre con las luces altas, planteando preguntas, dudas, escudriñando posibilidades, renovándose, tomando distancia de las modas y afirmando, hasta el cansancio, la centralidad de la persona, de la cultura, del bien común y del país. Una universidad que se deja encapsular por la cotidianidad, que abandona su historia y su misión, que se deja inundar por la mediocridad y el conformismo, apaga las luces y se detiene a esperar el golpe que la hundirá para siempre.

En el caso de “inteligencia artificial”, la expresión implica que una máquina, un objeto o, si quieren, un artefacto tiene la capacidad de ser inteligente. Con ello cambia de manera radical la percepción y el sentido que nos damos como especie y el lugar que nos atribuimos en el destino del planeta".

Con «inteligencia artificial» estamos ante un oxímoron, una figura de la retórica. Un oxímoron consiste en dos palabras opuestas que generan un nuevo sentido, sucede con “instante eterno”, “muerto viviente”, “claroscuro”, y, también, por cierto, con “realidad virtual”. En el caso de “inteligencia artificial”, la expresión implica que una máquina, un objeto o, si quieren, un artefacto tiene la capacidad de ser inteligente. Con ello cambia de manera radical la percepción y el sentido que nos damos como especie y el lugar que nos atribuimos en el destino del planeta. La inteligencia deja de ser una propiedad exclusiva del ser humano. De esta manera, se abre un universo de interrogantes que no terminan de ser planteadas. Pongo algunas sobre la mesa para alimentar el debate: ¿qué significa “inteligencia” en “inteligencia artificial”?, ¿lo que se crea o hace con inteligencia artificial tiene algún rasgo humano o es (y será) siempre algo artificial?, ¿una máquina sabe que existimos como nosotros sabemos de ella? Hay más que provocación en estas preguntas. Pero parece haber un límite cuando admitimos que, aunque un robot sea inteligente, no consigue, por ejemplo, amarrarse un zapato. Este ejemplo se conoce como la paradoja de Moravec. A mediados de 1980, el científico austriaco Hans Moravec afirmó: «Comparativamente es fácil conseguir que las computadoras muestren capacidades similares a las de un humano adulto en test de inteligencia, y difícil o imposible lograr que posean las habilidades perceptivas y motrices de un bebé de un año».

Pues bien, es indiscutible la presencia de la “inteligencia artificial” en el mundo y en infinidad de espacios y dimensiones del conocimiento, de la creación y de la vida social en los que, hace pocos años, era sencillamente impensable. Ya hay por ahí un robot que, en tres minutos, prepara pisco sour. Ignoro si se amarra los zapatos. La irrupción del ChatGPT gatilló un proceso que ganó velocidad con la pandemia. Las cosas han llegado al extremo de que la Real Academia Española incluyó la expresión en el Diccionario, pero le puso a la definición un candado que salvaguarda la inteligencia humana en la discusión. Dice la RAE: «inteligencia artificial.- Disciplina científica que se ocupa de crear programas informáticos que ejecutan operaciones comparables a las que realiza la mente humana, como el aprendizaje o el razonamiento lógico». Dicho sea de paso: hoy por hoy, la Academia emplea recursos de inteligencia artificial en la descripción semántica de millones de palabras, las fichas de cartón quedaron para el investigador (y también para el turista) en la biblioteca principal. Tal es el empuje y el entusiasmo que ha generado la inteligencia artificial que la Fundación del Español Urgente, promovida por la agencia EFE y la Real Academia Española, dejó de lado que la expresión tiene dos palabras y la eligió como la palabra del año 2022. Dicho sea de paso, por razones que no es necesario explicar, el 2021 ganó «vacuna» y el 2020 «confinamiento». En el caso de “inteligencia artificial”, la noticia vino explícitamente acompañada de un anhelo: “La elección de ‘inteligencia artificial’ como palabra del año puede ayudar a promover un uso correcto del término y a esclarecer cualquier duda al respecto. También puede ser una oportunidad para reflexionar sobre el papel de la inteligencia artificial en nuestra sociedad, y sobre cómo abordar su desarrollo y uso”.

Mira por el lado equivocado del telescopio quien niega la utilidad de la inteligencia artificial".

En este punto quiero hacer una primera vuelta de tuerca para no abusar de su paciencia. Mira por el lado equivocado del telescopio quien niega la utilidad de la inteligencia artificial. Es casi de Perogrullo afirmar que la inteligencia artificial es un desarrollo tecnológico y estratégico que ofrece ventajas y mejoras al bienestar de las personas, contribuye con la eficiencia y la productividad de las empresas, del Estado, del sector privado, y crea nuevas oportunidades para la enseñanza y la investigación en todos sus niveles y dimensiones. Suena a definición de manual, pero no encuentro mejor manera de expresarlo. Ahora, ¿basta decirlo? Ciertamente, no. ¿Debemos hacer de esta afirmación un axioma, un mantra? Ciertamente que no. ¿A mayor inteligencia artificial en una universidad, mejor calidad en la formación? Ciertamente que no. ¿Podemos darle la espalda al desarrollo de la inteligencia artificial? Ciertamente que no. Entonces, con todas esta respuestas, ¿qué hacer? Creo que se trata de espacios y dimensiones complementarios, que necesitan la construcción de los puentes que sean necesarios y pertinentes para los universos epistemológicos, los sentidos, las funciones y, sobre todo, los actores puestos en interacción.

¿Qué hacer? Creo que se trata de espacios y dimensiones complementarios, que necesitan la construcción de los puentes que sean necesarios y pertinentes para los universos epistemológicos, los sentidos, las funciones y, sobre todo, los actores puestos en interacción".

Veamos. En las universidades debemos formar profesionales para que se hagan cargo de las necesidades de la época e investigadores que contribuyan con el desarrollo del conocimiento. No hay oposición alguna entre ambos. Ponemos especial énfasis en sensibilizar a los estudiantes en las injusticias, las brechas, la discriminación, la relevancia del espíritu critico, de la duda, la ética, y en que para resolver y atender los problemas del entorno debemos respetar la democracia, los derechos humanos, valorar la diversidad de género, de culturas, de creencias y de sueños. Sabemos, por cierto, que la realidad tiene sus contradicciones y penurias, en ocasiones descorazona y nos roba el aliento cuando la contrastamos con los fines que nos mueven y dan sentido a nuestras vidas. La distancia suele ser enorme y duros los golpes. Siempre hay muchísimo que hacer, nos diría César Vallejo. Sin embargo, perseveramos y no renunciamos a la esperanza ni al cambio. ¿Cómo entra la inteligencia artificial en esta ecuación? Tremenda pregunta. Podría ensayar varias respuestas considerando niveles de formación y especialidades. Pero todas coincidirían, a pesar de sus variantes, en que debemos aprender a ver las cosas bajo una nueva luz, “porque — como dice Labatut— la llama de la razón ya no alcanza a iluminar el complejo laberinto que va tomando forma lentamente (…) a nuestro alrededor” (Labatut, La piedra de la locura).

Debe quedar sentado, además, que la búsqueda del saber no se restringe ni limita a la investigación. La docencia es una dimensión insustituible. Pero una enseñanza deficiente, rutinaria o autoritaria, dedicada a la fría instrucción o constreñida a indicadores, sepulta la formación de la persona, extingue la riqueza de la diversidad, del razonamiento y arranca de raíz la esperanza en un mundo mejor. Renace el «mundo feliz» de Huxley. Recordarán que, en ese mundo, la “inteligencia artificial” enterró a “la inteligencia humana” en el camino a la felicidad y la paz. Para evitarlo, debemos inyectarle empatía, reflexión, amplitud y profundidad. El cambio recae en manos de los docentes y de lo que somos capaces de hacer y transmitir durante los minutos de una clase.

Hoy en el Perú convivimos con brechas enormes, desigualdades por todas partes y en distintos ámbitos".

Nada sucede en el aire, siempre hay un contexto. Lo subrayo porque la discusión de esta tarde se da en un momento de nuestra historia que tiene dimensiones y características particulares. Me dirán que siempre hay un contexto. Es verdad. Las malas noticias suelen venir de por ahí. Como el contexto en que se recibe una buena idea puede contribuir con su éxito o su fracaso, si no es considerado tal cual es y no como quisiéramos que sea, debo dar una tercera vuelta de tuerca en mi argumentación. Podría sintetizar lo que intento decir en que para soñar necesitamos tener los pies sobre la tierra. Residimos en la tierra, nos recordaría Neruda. Pienso en lo siguiente: hoy, en el Perú, convivimos con brechas enormes, desigualdades por todas partes y en distintos ámbitos; tenemos una diversidad de lenguas y culturas que no se reconocen entre sí; abundan prejuicios y deplorables modos de interacción; la educación escolar sigue en crisis, el sistema universitario ha sido agujereado y pierde la legitimidad que tuvo hasta un par de años atrás; no cesa la violencia contra la mujer; tenemos un país — ¡nuestro país! — en el que, de acuerdo con la encuesta sobre desigualdades del IEP (2022), el 80% de peruanos reconoce que el acceso a la justicia es notablemente desigual; un 59% percibe lo mismo en lo referido al acceso a una educación de calidad; un 61% afirma que existe una marcada desigualdad entre las ciudades y las zonas rurales; el 34% admite que existe desigualdad entre hombres y mujeres; y, mientras, el 85% considera que la educación es lo único que garantiza un desarrollo pleno, perdemos miles de jóvenes talentosos que salen del Perú en búsqueda de una vida mejor. A este puñado de cifras sumo otra tomada la semana pasada de IDEA internacional: un 54% de latinoamericanos aceptaría vivir bajo un régimen autoritario. Imposible no afligirse. Ya no hay espacio para tanto dolor.

La varita mágica no la tiene la inteligencia artificial. La tiene la inteligencia a secas, sin adjetivos. También la buena voluntad y la ética, por cierto. Pero, sobre todo, la educación de calidad".

La varita mágica no la tiene la inteligencia artificial. La tiene la inteligencia a secas, sin adjetivos. También la buena voluntad y la ética, por cierto. Pero, sobre todo, la educación de calidad. Son ciertamente problemas de distinto calibre; pero la condición necesaria para encararlos está en la formación integral y, en tanto condición necesaria, es previa al uso y al desarrollo de nuevos proyectos tecnológicos. Dicho de otra manera: los riesgos están en el uso, no en la tecnología. El usuario debe estar bien formado. La discusión habitualmente se limita a la dimensión tecnológica y a celebrar su desarrollo sin atender al usuario ni su impacto en la vida social ni los riesgos a los que nos expone el “progreso tecnológico” cuando cae en manos equivocadas. Falta prevenir y sensibilizar sobre los efectos y pérdidas que conlleva su promoción a ciegas. Sin duda, la advertencia vale para muchos campos pero debemos insistir y ponerla siempre por delante, en particular, entre quienes tenemos la responsabilidad de formar personas, y entre quienes debemos responder a la confianza que nos otorgan los jóvenes y sus familias en el diseño del porvenir.

A propósito, el 1 de noviembre de este año, la prensa internacional informó que Estados Unidos, China, India y países de la Unión Europea, como Francia, Alemania y España, están entre los 29 firmantes de un texto que recalca que es «especialmente urgente» analizar los peligros que presenta la nueva tecnología y acordar medidas preventivas. Es verdad que el énfasis recae en el aspecto regulatorio pero me parece relevante que representantes de las principales potencias en el sector tecnológico señalen el «potencial transformador» de la IA; que ella puede impulsar «el bienestar, la paz y la prosperidad” y que, al mismo tiempo, alerten que, junto con esos posibles beneficios, van asociados «riesgos significativos» que obligan a velar por que el desarrollo de la tecnología se mantenga bajo «una supervisión humana adecuada”. (Web RPP 1/11/23). Inquieta, por inesperada, la frase “bajo una supervisión humana adecuada”. ¿A qué le temen? ¿Sucede algo sin que lo sepamos? ¿Acaso la inteligencia artificial está ya en manos de sí misma? Lo más probable es que se trate de una advertencia ante el peligro de que intereses subalternos y económicos capitalicen su apogeo para ganar poder e influencia en el mundo. Pero la frase en cuestión no deja de ponernos sobre aviso ni de hacernos ver que el mundo es un conjunto de sistemas de sistemas, de fuerzas y peligros que están fuera de nuestro alcance. A nosotros nos toca formar a los jóvenes para vivir en él. Quiero decir: nos toca poner todo nuestro esfuerzo y dedicación para que cuando egresen tengan el conocimiento y la formación humana que les asegure una vida digna y pacífica.

El 1 de noviembre de este año, la prensa internacional informó que Estados Unidos, China, India y países de la Unión Europea, como Francia, Alemania y España, están entre los 29 firmantes de un texto que recalca que es "especialmente urgente" analizar los peligros que presenta la nueva tecnología y acordar medidas preventivas".

Precisamente, en julio de este año, el alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Tür, enfatizó el impacto de la IA en el respeto a los DD.HH. Aunque su intervención se dio en un contexto en que se debatían necesidades normativas de prevención, me parece apropiado dedicar un minuto a las ideas expuestas por él. El comisionado Tür afirmó que dos perspectivas orientan actualmente la discusión sobre el desarrollo de la IA y los márgenes de libertad en que debe darse: la primera tiene en cuenta los riesgos, centrándose principalmente en la autorregulación y en la autoevaluación por parte de los desarrolladores de IA. Este enfoque confiere gran responsabilidad al sector privado. Podría decirse que la responsabilidad es demasiado alta e importante para ser transferida a quienes precisamente controlan el desarrollo tecnológico y su mercado. La segunda, más vinculada con nuestro quehacer, integra los derechos humanos en todo el ciclo de vida de la IA. Los derechos humanos se incorporan a la recopilación y selección de datos; así como en el diseño, desarrollo, implantación y uso de los modelos, instrumentos y servicios resultantes. Una vez delimitado el marco, Tür manifiesta y consigue encender las alarmas: la IA tiene el potencial de afianzar a los gobiernos autoritarios, puede llegar a manejar armas autónomas letales, puede crear las bases que faciliten el control de la sociedad, la vigilancia y la censura; los sistemas de IA que se utilizan en el sistema de justicia penal para predecir futuros comportamientos criminales ya han demostrado que apuntalan la discriminación y que debilitan los derechos, incluyendo la presunción de inocencia. Adiciona a ello los atropellos a la privacidad, los sesgos e ideologías que pueden cristalizar en base de datos y, por su intermedio, influir en la toma de decisiones; a ello sigue un largo etcétera que nos obliga a detenernos a ver hacia dónde vamos y a preguntarnos por qué vamos hacia donde quiera que nos dirijamos.

¿Podrían tomarse decisiones más justas basadas en algoritmos? ¿Puede ayudar la IA a consolidar la democracia en el Perú? ¿Puede la IA ayudar a ser mejor persona?".

Me parece claro que la IA puede ayudarnos, por ejemplo, a medir la velocidad y el ritmo del cambio climático o de la contaminación ambiental. Es notable su utilidad en medicina y en diagnósticos clínicos, sucede lo mismo en la comunicación digital, con navegadores, mapas y en el procesamiento del lenguaje natural; en fin, son varias las actividades que podrían mencionarse. Ahora, ¿podrían tomarse decisiones más justas basadas en algoritmos? ¿Puede ayudar la IA a consolidar la democracia en el Perú? ¿Puede la IA ayudar a ser mejor persona? Lo planteo así porque estas interrogantes abren la cancha a un necesario e interesante debate interdisciplinario que debemos promover en nuestra Universidad. Evitemos la fuerza seductora que tiene el tema y que lleva muchas veces a ponernos en la cola o a correr sin control tras el hechizo en búsqueda de un bien inexistente o de una receta que termina siendo impertinente y letal. Pero, al mismo tiempo, reconozcamos las bondades y las cosas buenas que existen y que hemos incorporado en nuestra vida cotidiana. A veces, nos falta generosidad y altas dosis de empatía.

Dicho esto doy la cuarta y última vuelta de tuerca para luego despedirme. Pueden haberse llevado la impresión de que en estas páginas he trazado dos caminos paralelos. Por momentos sí, por momentos no. Es posible que alguno de ustedes haya advertido que en algunos pasajes he contrastado dimensiones que juegan en ligas distintas. Por momentos sí, por momentos no. Imposible evitarlo. En todos los casos, el dilema que me ha guiado es la incorporación de la IA en la formación de la persona, y en el desarrollo académico y profesional que le permite a un estudiante cumplir con sus anhelos y metas personales y profesionales. A mi juicio, ello dependerá siempre del modelo educativo que asume una institución. El modelo educativo es la piedra de toque que permite calibrar lo que hacemos y lo que pretendemos hacer. Habrá universidades que se inclinen hacia un extremo y habrá las que lo hagan en un sentido distinto. No hay una receta y, obviamente, la IA no lo resuelve. Les confieso en este punto que no creo que se trate de un dilema.

El modelo educativo es la piedra de toque que permite calibrar lo que hacemos y lo que pretendemos hacer. Habrá universidades que se inclinen hacia un extremo y habrá las que lo hagan en un sentido distinto. No hay una receta y, obviamente, la IA no lo resuelve".

Me parece que es más amplio y complejo que una disyunción por la multitud de dimensiones que convergen en los objetivos finales: intervienen, por ejemplo, desde la historia institucional, la vocación de servicio, el presupuesto, la comunidad, los profesores, los estudiantes, la modalidad de gobierno hasta la docencia, el estudio, el compromiso con la función pública, con el empresa privada, con el país, los planes de estudio, la visión de futuro, la búsqueda de la verdad y del bien común. Hoy, en el Perú, conviven modelos distintos de universidades y tenemos proyectos e ideales igualmente diferenciados, aunque el marbete de calidad universitaria dé la impresión de un aire de familia. Pienso, por ello, que el elemento definidor en la adopción de la IA es el lugar que se asigna a la persona, sea estudiante, docente o administrativo, es decir, la manera en que enraíza la idea de comunidad universitaria. A ello me he referido en otra oportunidad a propósito de nuestro modelo educativo: “El modelo educativo de la PUCP no solo debe reflejarse en un texto, debe vivirse. Ese es el gran reto del modelo que nos define como Universidad. Los estudiantes deben ser especialmente beneficiados, tanto por las innovaciones pedagógicas, la flexibilidad e impulso a la renovación de los planes de estudio. Debe ser un modelo dinámico, abierto a los cambios, capaz de responder a los desafíos, moderno; y, al mismo tiempo, debe afirmar la creatividad, el espíritu crítico, la ética, la curiosidad intelectual, el cultivo de la ciencia y la conciencia del país en que vivimos”.

El elemento definidor en la adopción de la IA es el lugar que se asigna a la persona, sea estudiante, docente o administrativo, es decir, la manera en que enraíza la idea de comunidad universitaria".

La implementación de la inteligencia artificial debe responder a esos principios; debemos concebirla asentada en el conjunto de ideas y objetivos que nos definen como institución universitaria, católica y peruana".

¿Y la IA? La implementación de la inteligencia artificial debe responder a esos principios; debemos concebirla asentada en el conjunto de ideas y objetivos que nos definen como institución universitaria, católica y peruana. No en el Perú de ayer, ni en el recuerdo de una institución que nunca existió, ni en el ideal de un porvenir imposible, sino en el país de hoy, en el mundo de hoy, con las sensibilidades y la juventud de hoy, con la que nos jugamos el destino y la fe, y con quienes la memoria histórica debe ser el combustible que los lleve hacia adelante, cuidándolos de no chocar otra vez con las mismas piedras ni meter la pata en el mismo hueco. Cuando digo que la IA debe estar asentada en nuestra misión institucional y en nuestro modelo educativo, pienso en que deben enseñarse sus virtudes, sus oportunidades y sus riesgos; no olvido que también es un objeto de investigación que todavía parece un campo infinito para crear, innovar y reflexionar. Ni lo primero se opone a lo segundo, ni lo segundo a lo primero. Ambos dialogan entre sí. El desafío es que el diálogo sea fértil, trasparente y sereno, considerando siempre el entorno, las personas y la vida. Todo debe ser así en la PUCP. A eso aspiramos, hacia allá vamos y en eso creo.

Muchas gracias