Por Carlos Javier Lozada Villegas\n<\/code><\/pre>\n\n\n\n![\"\"](\"https:\/\/www.blogs.unicamp.br\/geict\/wp-content\/uploads\/sites\/296\/2025\/05\/a291fb_1c6df92bb0894eab9f65708a311d9c4emv2-300x300.jpg\")
<\/p>\n
En la primera parte del texto quisimos discutir sobre la controversia que existi\u00f3 en los anales de la civilizaci\u00f3n griega, sobre la escritura. En fin, lo que un fil\u00f3sofo de la importancia de Plat\u00f3n observaba sobre eso que hoy hemos naturalizado como escritura. Que en s\u00ed misma, la escritura, es una tecnolog\u00eda. En aquella \u00e9poca, el concepto de tecnolog\u00eda, no era para nada parecido con nuestro concepto actual de tecnolog\u00eda. Hoy podemos percibir ciertas innovaciones como altamente tecnol\u00f3gicas y nunca nos imaginamos que la escritura en su evoluci\u00f3n fue una gran innovaci\u00f3n tecnol\u00f3gica. Por eso, podr\u00edamos decir que en aquella \u00e9poca pareciera ser que la escritura se percib\u00eda como hoy nosotros podemos percibir ciertas innovaciones tecnol\u00f3gicas, y tal tecnolog\u00eda fue controversial como lo demostramos en el di\u00e1logo plat\u00f3nico El Fedro. <\/span><\/span><\/p>\n<\/div>\n\n Como dijimos en la primera parte del texto, la historia nos ha demostrado que la escritura, esa hermosa tecnolog\u00eda, que hasta hoy nos acompa\u00f1a, ha sido y sigue siendo una herramienta fundamental del intelecto humano, sin ella hoy en d\u00eda no tendr\u00edamos los famosos chatbots. Desde aquellas antiguas invenciones tecnol\u00f3gicas hasta las m\u00e1s actuales, el prop\u00f3sito ha sido buscar herramientas que nos ayuden a ampliar nuestro intelecto.<\/span><\/span><\/p>\n<\/div>\n\n En el transcurso de la evoluci\u00f3n de la escritura vimos c\u00f3mo se fueron implementando ciertas e importantes normativas de uso, hasta alcanzar el nivel de las llamadas lenguas modernas. Que se convirtieron en grandes pol\u00edticas ling\u00fc\u00edsticas, por ende, cada pol\u00edtica intr\u00ednsecamente trae consigo un armaz\u00f3n jur\u00eddico que lo sustenta, como tambi\u00e9n, cada cuesti\u00f3n jur\u00eddica trae consigo un armaz\u00f3n \u00e9tico que lo fundamenta.<\/span><\/span><\/p>\n<\/div>\n\n Es por ello, que queremos fundamentar algunas de las consideraciones \u00e9ticas en relaci\u00f3n con los chatbots en especial con el ChatGPT, por eso, deber\u00edamos entender a los chatbots en cuanto al contexto del enorme crecimiento de las IA. Porque en los \u00faltimos dos meses hemos visto c\u00f3mo han crecido en m\u00e1s de 100 millones de usuarios, por ejemplo, <\/span>Instagram<\/span><\/em> tard\u00f3 unos 30 meses en llegar a ese r\u00e9cord y <\/span>Spotify<\/span><\/em> unos 55 meses, esto es, que estamos hablando sobre una de las plataformas digitales m\u00e1s exitosa de la hist\u00f3ria. Claramente, son plataformas diferentes, unas son redes sociales y la otra un chatbot, pero en cuanto al uso, como en cuanto a la cantidad de usuarios y de curiosos ha sido una plataforma exitosa. <\/span><\/span><\/p>\n<\/div>\n\n Por ende, no podemos negar la importancia que puedan tener los chatbots, como herramienta para programadores, comerciantes, estudiantes, servidores p\u00fablicos, etc., pero debemos tener en cuenta que tambi\u00e9n tenga y pueda tener lados negativos; es por ello, que el mundo est\u00e1 precisando de pol\u00edticas que regulen su uso, porque para los mismos creadores tal situaci\u00f3n pudiera ser perjudicial. Hasta, Sam Altman, CEO de OpenAI, aprovech\u00f3 su viaje a Corea del Sur para solicitar una regulaci\u00f3n internacional coordinada de la inteligencia artificial generativa, la tecnolog\u00eda que respalda su famoso chatbot y dijo: <\/span>\u00abA medida que estos sistemas se vuelven muy, muy poderosos, esto requiere una preocupaci\u00f3n especial y tiene un impacto global. Por lo tanto, tambi\u00e9n requiere cooperaci\u00f3n global\u00bb<\/span><\/em> (CNN Brasil, 2023)<\/span><\/span><\/p>\n<\/div>\n\n En consecuencia, el llamado global a la regularizaci\u00f3n por parte del mismo CEO de la empresa creadora del ChatGPT es un grito a todos los gobiernos y congresos del mundo. Porque as\u00ed como fue abierta a muchos pa\u00edses, tambi\u00e9n observamos que fue prohibida en pa\u00edses como China, Italia, Corea, Rusia e Ir\u00e1n y unos treinta pa\u00edses m\u00e1s. Entonces, la preocupaci\u00f3n \u00e9tica viene porque cuando se abren al p\u00fablico en general plataformas virtuales de inteligencia artificial como el ChatGPT los creadores deber\u00edan saber los l\u00edmites adecuados para que este tipo de lenguajes pre-entrenados y de constante entrenamiento alimentado por internet y por las preguntas de los mismos usuarios puedan relacionarse lo m\u00e1s apropiadamente. Principalmente, ese pre-entrenamiento (GPT) viene de internet en donde se consiguen cosas buenas y cosas malas, pero pareciera ser que los <\/span>chatbots<\/span><\/em> no saben discriminarlas, pero seg\u00fan la UESCO (2023): <\/span>\u00abChatGPT ha sido entrenado para rechazar solicitudes inapropiadas, por ejemplo, preguntas que violen los derechos de alguien, promuevan la discriminaci\u00f3n, sean ofensivas o busquen deliberadamente inducir a error\u00bb <\/span><\/em>(UNESCO, 2023, p. 5).<\/span><\/span><\/p>\n<\/div>\n\n Pero la prohibici\u00f3n del ChatGPT tanto en Italia como por el Departamento de Educaci\u00f3n de Nueva York, se debe principalmente por los errores cometidos en la precisi\u00f3n de la informaci\u00f3n y por el problema de plagios para el desarrollo de cualquier trabajo acad\u00e9mico, art\u00edstico, etc. Algunas consideraciones e implicaciones \u00e9ticas que se vislumbra en el texto de la UNESCO (2023) son las siguientes: la integridad acad\u00e9mica, protecci\u00f3n de datos, sesgos cognitivos, g\u00e9nero y diversidad, accesibilidad o democratizaci\u00f3n tecnol\u00f3gica, comercializaci\u00f3n y la falta de regularizaci\u00f3n, etc. (Cf. UNESCO, 2023, pp. 11-12). <\/span><\/span><\/p>\n<\/div>\n\n En cuanto a la implicaci\u00f3n de la <\/span>integridad acad\u00e9mica<\/span><\/em> los educadores y educadoras del mundo se sienten alarmados porque con el ChatGPT se puede tener un mayor riesgo de plagio, si su uso se abusa en copia y pega en la elaboraci\u00f3n de trabajos, ex\u00e1menes, ensayos, etc. Y principalmente se resalta en el texto de la UNESCO (2023) que las mayores preocupaciones son en las \u00e1reas donde la escrita y la memoria juega un papel fundamental, por ejemplo, en el caso de las ciencias humanas y sociales que son disciplinas de elaboraci\u00f3n de monograf\u00edas, escritos y ensayos diversos, largos ex\u00e1menes de complejas teor\u00edas donde la memoria y la escrita juega un papel fundamental, a diferencia de disciplinas m\u00e1s pr\u00e1cticas que no precisan tanto de la complejizaci\u00f3n del pensamiento a trav\u00e9s de la escritura, por ello, la principal petici\u00f3n de los profesores para el uso \u00e9tico del chatGPT dentro de las universidades y escuelas es que con la misma proporci\u00f3n que van evolucionando estos <\/span>chatbots<\/span><\/em> se creen aplicativos de verificaci\u00f3n de plagios (Cf. UNESCO, 2023).<\/span><\/span><\/p>\n<\/div>\n\n Como ya dijimos y en cu\u00e1nto a la implicaci\u00f3n de la <\/span>protecci\u00f3n de datos<\/span><\/em> precisamente fue Italia que se convirti\u00f3 en el primer pa\u00eds en bloquear el ChatGPT debido a la preocupaci\u00f3n de las autoridades con la privacidad de los datos e informaciones de los usuarios y que precisamente no existe una base legal para la regularizaci\u00f3n de estas plataformas tecnol\u00f3gicas. Y la gran preocupaci\u00f3n de las autoridades italianas era que estas tecnolog\u00edas no discriminan si el usuario era menor o mayor de edad, y en visto de, para protecci\u00f3n al menor de edad se bloque\u00f3 provisionalmente el ChatGPT. Las preguntas fundamentales ser\u00edan si los tipos de datos que se recopilan hacia d\u00f3nde van estos datos, y como tambi\u00e9n, qui\u00e9n manipula esos datos (Cf. UNESCO, 2023). <\/span><\/span><\/p>\n<\/div>\n\n Otra de las implicaciones es el <\/span>sesgo cognitivo,<\/span><\/em> esto quiere decir que para el pre-entrenador de lenguaje generativo ChatGPT no se rige por principios \u00e9ticos y existencialmente no distingue entre las cosas buenas y las cosas malas, entre la verdad y la falsedad, su procesamiento es base de datos algor\u00edtmicas de l\u00f3gica simb\u00f3lica y proposicional que son convertidas en n\u00fameros, tomadas y procesadas de toda la informaci\u00f3n que se tiene de internet, es aqu\u00ed donde se deber\u00eda prevalecer la capacidad cr\u00edtica de los usuarios y pesquisadores de confrontar cr\u00edticamente la informaci\u00f3n dada por estos chatbots, porque pueden ser fuentes de informaci\u00f3n importante como fuente de desinformaci\u00f3n (Cf. UNESCO, 2023). <\/span><\/span><\/p>\n<\/div>\n\n Otra de las aplicaciones y consideraciones \u00e9ticas en relaci\u00f3n con estas nuevas tecnolog\u00edas de la Inteligencia artificial es sobre el <\/span>g\u00e9nero y la diversidad<\/span><\/em> porque se tienen diversas preocupaciones en cuanto a la discriminaci\u00f3n de estas tecnolog\u00edas, o sea, dentro del texto de la UNESCO tenemos, por ejemplo, la falta de participaci\u00f3n femenina en la construcci\u00f3n y desarrollo de la Inteligencia artificial, tanto la investigaci\u00f3n como el desarrollo de la misma y del poder representado por estas empresas como Open IA, Google, Microsoft, etc. recae mayoritariamente en hombres, evidentemente hay un sesgo de g\u00e9nero en cuanto al trabajo de la mujer (Cf. UNESCO, 2023). <\/span><\/span><\/p>\n<\/div>\n\nOtro aspecto y no menos importante es sobre la <\/span>accesibilidad, <\/span><\/em>en el texto de la UNESCO (2022), existen dos preocupaciones fundamentales sobre el problema de las accesibilidad a estas tecnolog\u00edas. El primero es la falta de disponibilidad de esta tecnolog\u00edas en algunos pa\u00edses por falta de internet o en el caso de Italia por miedo al sesgo de la informaci\u00f3n y de los datos por falta de regularizaci\u00f3n. La segunda gran preocupaci\u00f3n es sobre la democratizaci\u00f3n de estas tecnolog\u00edas, ya sea por el costo elevado del internet en algunos pa\u00edses (Cf. UNESCO, 2023).<\/span><\/span><\/p>\n<\/div>\n\n A nuestra manera de ver estas implicaciones y consideraciones \u00e9ticas por parte de la UNESCO, la m\u00e1s importante a resaltar es sobre la <\/span>falta de regularizaci\u00f3n<\/span><\/em><\/strong> y que como ya lo dijimos, el CEO de la OpenIA, pide una integraci\u00f3n global para la regularizaci\u00f3n. Nos dice que el ChatGPT y otras tecnolog\u00edas parecidas avanzan a ritmos donde las burocracias de los gobiernos no se adaptan con la rapidez necesaria, eficiente y suficiente para regular dichas tecnolog\u00edas. En cuanto al intento de regulaci\u00f3n existen dos hechos noticiosos fundamentales: el primero fue una carta abierta de m\u00e1s de 1000 acad\u00e9micos y empresarios relacionados con la Inteligencia artificial, refiri\u00e9ndose sobre los posibles peligros que puedan emanar de dichas tecnolog\u00edas. El otro segundo intento y m\u00e1s concreto hasta hoy en d\u00eda sobre la regularizaci\u00f3n de estos Chatbots ha sido por parte de la Uni\u00f3n Europea. La UE comienza a concretar pol\u00edtica y legislativamente sobre las posibles regulaciones aplicadas a las inteligencias artificiales de pre-entrenamiento generativo del lenguaje o chatbots (Cf. UNESCO, 2023).<\/span><\/span><\/p>\n<\/div>\n\n A nivel mundial, los debates m\u00e1s avanzados sobre la regulaci\u00f3n de la IA se encuentran actualmente en la Uni\u00f3n Europea. El 14 de junio de este a\u00f1o, el bloque comercial aprob\u00f3 una propuesta inicial de legislaci\u00f3n, que a\u00fan pasar\u00e1 por el pleno europeo y deber\u00eda ser sancionada a fines de 2023. La denominada \u201cLey de Inteligencia Artificial\u201d, que destaca en su enmienda 3:<\/span><\/span><\/p>\n<\/div>\n\n\n\nEl presente Reglamento tiene por objeto promover la adopci\u00f3n de una inteligencia artificial fiable y centrada en el ser humano, garantizando un alto nivel de protecci\u00f3n de la salud, la seguridad, los derechos fundamentales, la democracia, el Estado de derecho y el medio ambiente frente a los efectos nocivos de los sistemas de inteligencia artificial en la Uni\u00f3n, apoyando al mismo tiempo la innovaci\u00f3n y mejorando el funcionamiento del mercado interior.<\/span><\/span><\/div>\n<\/blockquote>\n<\/div>\n<\/div>\n\nLo que podemos interpretar de estos primeros intentos de regulaci\u00f3n por parte de la UE es antropomorfizar y socializar la IA, es decir, que la IA este bajo el control total de los seres humanos, que es fiable para toda la humanidad, pero, sin perder el foco en la innovaci\u00f3n y la mejora del mercado. Entonces, adem\u00e1s, podr\u00edamos preguntarnos ante una posible contradicci\u00f3n: \u00bfc\u00f3mo ser m\u00e1s expl\u00edcitos al mencionar que la inteligencia artificial podr\u00eda estar m\u00e1s centrada en el ser humano y al mismo tiempo no perder el foco en la innovaci\u00f3n que se apoyar\u00e1 y mejorar\u00e1 en el contexto del mercado interior?, es decir, \u00bfpueden coexistir humanidad y capitalismo?<\/span><\/span><\/p>\n<\/div>\n\nPensamos que tales contradicciones pueden coexistir dentro de un contexto social que, m\u00e1s adelante, en la enmienda 12 describe la obligaci\u00f3n de<\/span><\/span><\/p>\n<\/div>\n\n\n\n\u2026mejorando la previsi\u00f3n, optimizando las operaciones y la asignaci\u00f3n de recursos, y personalizando las soluciones digitales disponibles para individuos y organizaciones, el uso de la inteligencia artificial puede brindar ventajas competitivas clave para las empresas y respaldar resultados beneficiosos para la sociedad y el medio ambiente, por ejemplo, en atenci\u00f3n m\u00e9dica, agricultura, seguridad alimentaria, educaci\u00f3n y formaci\u00f3n, medios de comunicaci\u00f3n, deportes, cultura, gesti\u00f3n de infraestructuras, energ\u00eda, transporte y log\u00edstica, gesti\u00f3n de crisis, servicios p\u00fablicos, seguridad, justicia, eficiencia energ\u00e9tica y de recursos, vigilancia medioambiental, conservaci\u00f3n y restauraci\u00f3n de la biodiversidad y los ecosistemas, y mitigaci\u00f3n y adaptaci\u00f3n a cambio clim\u00e1tico.<\/span><\/span><\/div>\n<\/blockquote>\n<\/div>\n<\/div>\n\nAs\u00ed, el Parlamento de la Uni\u00f3n Europea presenta una visi\u00f3n optimista y favorable sobre el uso de la inteligencia artificial en varios \u00e1mbitos, destacando sus posibles beneficios competitivos, sociales y medioambientales. Sin embargo, no menciona los posibles desaf\u00edos, limitaciones o riesgos asociados con la implementaci\u00f3n de la inteligencia artificial como se describe en el texto de la UNESCO. Una mirada cr\u00edtica podr\u00eda se\u00f1alar la necesidad de abordar cuestiones \u00e9ticas, as\u00ed como considerar los posibles impactos negativos, como la automatizaci\u00f3n del trabajo y la excesiva dependencia de la tecnolog\u00eda, es decir, la psicolog\u00eda de los usuarios.<\/span><\/span><\/p>\n<\/div>\n\nRefer\u00eancias<\/span><\/strong><\/span><\/h4>\n<\/div>\n\nCNN Brasil (2023). <\/span>CEO da OpenAI, empresa do ChatGPT, pede coopera\u00e7\u00e3o global para regular a IA<\/span><\/strong>. Disponible en: <\/span>https:\/\/x.gd\/0208r<\/u><\/span><\/a><\/span><\/p>\n<\/div>\n\nEuropean Parliament. TEXTS ADOPTED. P9_TA (2023) 0236: Artificial Intelligence Act: <\/span>Amendments adopted by the European Parliament on 14 June 2023 on the proposal for a regulation of the European Parliament and of the Council on laying down harmonised rules on artificial intelligenc<\/span><\/strong>e (Artificial Intelligence Act) and amending certain Union legislative acts (COM(2021)0206 \u2013 C9-0146\/2021 \u2013 2021\/0106(COD)). 2019-2024. [S.l.: s.n.].<\/span><\/span><\/p>\n<\/div>\n\nLa Naci\u00f3n. (2023, Marzo 31). <\/span>Italia se convierte en el primer pa\u00eds en bloquear el Chat GPT por no respetar la legislaci\u00f3n sobre datos personales<\/span><\/strong>. Recuperado de <\/span>https:\/\/www.lanacion.com.ar\/el-mundo\/italia-se-convierte-en-el-primer-pais-en-bloquear-el-chat-gpt-por-no-respetar-la-legislacion-sobre-nid31032023\/<\/u><\/span><\/a><\/span><\/p>\n<\/div>\n\nThe White House. (2023, Mayo 4). <\/span>Readout of White House Meeting with CEOs on Advancing Responsible Artificial Intelligence Innovation<\/span><\/strong>. Recuperado de: <\/span>https:\/\/www.whitehouse.gov\/briefing-room\/statements-releases\/2023\/05\/04\/readout-of-white-house-meeting-with-ceos-on-advancing-responsible-artificial-intelligence-innovation\/<\/u><\/span><\/a><\/span><\/p>\n<\/div>\n\nUNESCO (2023). <\/span>ChatGPT e inteligencia artificial en la educaci\u00f3n superior: gu\u00eda de inicio r\u00e1pido.<\/span><\/strong> Par\u00eds: Francia. Disponible em: <\/span>https:\/\/unesdoc.unesco.org\/ark:\/48223\/pf0000385146_spa<\/u><\/span><\/a><\/span><\/p>\n<\/div>\n