ES
EN
En julio de 2024, el Laboratorio de Equidad en IA de Brookings convocó al personal de noticias, otros administradores de contenido y tecnólogos para evaluar las oportunidades y amenazas que la IA presenta para el periodismo tradicional, con un enfoque en la equidad.
Algunas oportunidades han apoyado la transcripción de entrevistas, el análisis de datos y la redacción automatizada, mientras que las amenazas incluyen la homogeneización de narrativas, la difusión de información errónea y una mayor dependencia de las redacciones de las grandes empresas tecnológicas.
Los expertos recomiendan mejorar las prácticas de contratación equitativas junto con la innovación tecnológica, proporcionar desarrollo profesional y formación para el uso de herramientas de IA, y desarrollar normas e investigaciones en todo el campo para un uso adecuado y ético de la IA.
En todo Estados Unidos, las redacciones están recortando personal a medida que los efectos de la digitalización debilitan las operaciones y los ingresos tradicionales. A principios de este año, Politico informó de que sólo en enero de 2024 fueron despedidos más de 500 profesionales de los medios impresos, audiovisuales y digitales. Este número sigue creciendo a medida que la inteligencia artificial (IA) y otras funciones de informes automatizados se utilizan más en el sector. Los periodistas de color han sido los más afectados por estos recortes. En una encuesta de 2022 sobre profesionales despedidos, el Instituto de Periodistas Independientes ( https://theiij.com/layoffs-results-page ) descubrió que el 42% de los profesionales despedidos eran personas de color, a pesar de representar solo el 17% de la fuerza laboral total. A medida que las redacciones recurren cada vez más a la IA para gestionar la escasez de personal o aumentar la eficiencia, ¿cómo se verá afectada la integridad periodística? Y lo que es más importante, ¿cómo navegarán las redacciones por la infrarrepresentación de voces diversas que contribuyan al universo de perspectivas informativas más informadas?
Lanzado en 2023, el Brookings AI Equity Lab se compromete a recopilar conocimientos y enfoques interdisciplinarios para el diseño y la implementación de IA. En julio de 2024, convocamos al personal de noticias, a otros administradores de contenidos (por ejemplo, profesionales de bibliotecas, académicos y responsables políticos) y a tecnólogos («expertos contribuyentes») para evaluar las oportunidades y amenazas que la IA presenta para el periodismo tradicional. Si bien el debate está lejos de terminar, las recomendaciones de los expertos fueron que la IA puede modernizar radicalmente las salas de redacción, pero que su implementación aún debe hacerse en apoyo de los periodistas y otros creadores de contenido de color, que aportan sus propias experiencias vividas a las noticias y pueden sofocar el crecimiento de la información errónea y la desinformación que surge en un mundo cada vez más digital.
¿Qué es realmente el periodismo en estos días?
Para empezar, es importante situar la evolución del periodismo en el contexto de la tecnología y discutir en qué se ha convertido el campo a lo largo de los años. Una de las muchas definiciones razonables de periodismo es «el arte y la ciencia de recopilar, compilar y presentar noticias a través de diversas formas de medios de comunicación». Si bien la tecnología no ha cambiado radicalmente esta comprensión, ha alterado la forma en que los consumidores distribuyen e interpretan las noticias y otra información.
En comparación con la imprenta de Johannes Gutenberg durante el siglo XV, donde las copias analógicas definían la procedencia de los materiales, hoy en día se puede acceder a las noticias a través de plataformas digitales, incluidas las redes sociales. Los periodistas y los consumidores pueden difundir una serie de información relacionada con la actualidad en tiempo real e incluso compartir experiencias personales y profesionales. El enfoque en la precisión, la educación y la alfabetización también ha cambiado con la innovación digital y ha ampliado el universo de narradores para incluir a periodistas civiles.
Hace más de una década, la Fundación Knight y el Instituto Aspen formaron la Comisión Knight sobre las Necesidades de Información de las Comunidades en una Democracia para explorar tales cambios. La Comisión exploró las necesidades de información de las comunidades estadounidenses en la era digital y ofreció recomendaciones para fortalecer el libre flujo de información. Estas recomendaciones resuenan inquietantemente con más fuerza hoy en día. En particular, el informe de la Comisión Knight enfatizó la importancia de maximizar la disponibilidad de información relevante y creíble abogando por políticas que fomenten la innovación en el periodismo, apoyen a los medios de comunicación de servicio público y promuevan el acceso a fuentes de noticias diversas y locales. Igualmente vital fue el enfoque del informe en el fortalecimiento de la capacidad de las personas para interactuar con la información: un objetivo logrado mediante la incorporación de la alfabetización digital y mediática en los sistemas educativos y el aprovechamiento de las bibliotecas y los centros comunitarios como centros para el aprendizaje de adultos. Las recomendaciones también instaron a promover la participación pública creando oportunidades para que los ciudadanos participen activamente en la gobernanza y fomentando plataformas digitales que reflejen y se conecten con las diversas realidades de las comunidades locales. Estas recomendaciones siguen siendo muy relevantes a medida que navegamos por los desafíos de mantener la integridad periodística y el compromiso cívico en la era digital.
Cómo la IA está avanzando en la elaboración de informes y la curación en las salas de redacción
Los expertos que participaron en la mesa redonda reconocieron estas y otras realidades, así como las formas detalladas en que la IA está afectando específicamente a los flujos de trabajo. Ya sea para automatizar tareas rutinarias o proporcionar nuevas herramientas para los procesos de investigación y producción, la IA se está convirtiendo en una fuente de referencia para los periodistas. Las organizaciones de noticias utilizan cada vez más la IA para la transcripción, el análisis de datos, la personalización de contenidos y el análisis de audiencias. Herramientas como los servicios de transcripción automática y el procesamiento del lenguaje natural permiten a los periodistas ahorrar mucho tiempo en tareas tediosas, lo que les permite centrarse en esfuerzos más estratégicos y creativos. Por ejemplo, las herramientas de transcripción han reducido el tiempo de procesamiento de las entrevistas, mientras que los algoritmos de aprendizaje automático agilizan los informes de investigación al ayudar a descubrir patrones en grandes conjuntos de datos.
El creciente uso de sistemas de IA generativa, como ChatGPT, está ayudando en la producción y redacción de contenidos, resumiendo textos y adaptando contenidos a diversas plataformas. Sin embargo, los desafíos se han señalado anteriormente: los resultados de la IA requieren una investigación cuidadosa para evitar imprecisiones, y su uso plantea cuestiones éticas con respecto a la autonomía, el control editorial, el sesgo implícito y el impacto en el trabajo humano. Además, las grandes empresas tecnológicas, como Google, Meta, Microsoft y Amazon, están vendiendo a las redacciones infraestructura de inteligencia artificial, lo que puede generar preocupaciones sobre la dependencia o la «plataformización» de los medios de comunicación, ya que estas empresas ejercen una influencia significativa sobre los datos que las redacciones recopilan y utilizan.
A medida que las empresas de tecnología obtienen acceso a datos valiosos para entrenar sistemas de IA, la dependencia del periodismo se afianza en los productos de IA de «caja negra» ( https://www.ibm.com/think/topics/black-box-ai ) . Esta concentración de recursos y la opacidad de los sistemas de IA generativa deberían generar preocupaciones sobre la posible influencia de los actores corporativos tanto en los resultados editoriales como en la sostenibilidad de los modelos de negocio que apoyan el periodismo independiente.
Para que la IA sea menos opaca y más eficiente en las redacciones, debe diseñarse e implementarse de manera reflexiva con expertos en la materia en la mesa y con conciencia de sus sesgos y deficiencias. Sobre este último punto, los periodistas y otros administradores de contenido deberían debatir más sobre el uso de la IA antes de su adopción. Por ejemplo, algunos expertos argumentan que las redacciones podrían reemplazar a los periodistas con IA, mientras que otros sugieren que la tecnología complementa la intuición y el juicio humanos necesarios para el periodismo de calidad. Al comprender las implicaciones de la IA para el sector, las redacciones pueden satisfacer la creciente demanda de contenido variado, preciso y atractivo, y adaptarse a las presiones económicas de la era digital sin comprometer la integridad periodística ni reducir la capacidad humana para filtrar e interrogar estos sistemas.
No todos los periodistas y redacciones tienen el mismo acceso a estas herramientas o saben cómo usarlas. Además, es posible que las organizaciones de escasos recursos y las redacciones y periodistas independientes o dirigidos por minorías en estos entornos ni siquiera tengan acceso básico a estas herramientas avanzadas. Este desequilibrio dentro del sector en general pondrá a prueba su participación acelerada en un campo cada vez más digital y limitará las perspectivas disponibles para los lectores. Además, los modelos de propiedad del contenido podrían verse comprometidos cuando se introducen en los datos de entrenamiento de los que aprende la IA. Por ejemplo, muchos periódicos negros tienen décadas y décadas de información que seleccionan varios eventos y experiencias históricas. Pero cuando la IA se cruza con sus archivos, las organizaciones de noticias dirigidas por minorías deberían plantear preocupaciones sobre la propiedad, la compensación y el uso sin restricciones a los desarrolladores y empresas de IA.
La IA y la erosión de la integridad periodística
El despliegue manipulador de la IA también puede conducir a una rápida proliferación de la desinformación impulsada por la IA, lo que plantea un doble desafío para los periodistas. Por ejemplo, las tecnologías deepfake, que utilizan la IA para superponer audio, vídeo o imágenes para fabricar eventos o declaraciones, han alterado fundamentalmente el periodismo y han creado nuevos retos para mantener la verdad y la confianza pública. Se han utilizado para manipular la opinión pública , desacreditar a figuras políticas y sembrar confusión en momentos cruciales como las elecciones y las crisis . Las herramientas de IA, como las redes generativas adversarias (GAN) , pueden conducir a la creación de medios sintéticos hiperrealistas y noticias falsas, lo que hace que sea cada vez más difícil para los periodistas y consumidores de información distinguir entre contenido auténtico y fabricado, al tiempo que intensifica las preocupaciones sobre el acoso en línea y las operaciones de información convertidas en armas.
La velocidad a la que circulan los contenidos falsos en las plataformas digitales suele superar los métodos de verificación tradicionales. Las herramientas y procesos de verificación de datos, aunque dependen cada vez más de la propia IA, luchan por mantenerse al día con el volumen y la sofisticación del material fabricado. Este entorno presiona a los periodistas a priorizar la velocidad sobre la precisión, particularmente en escenarios de «noticias de última hora». Esto puede conducir a información errónea o historias superficiales que a menudo no profundizan en la intensidad y profundidad de las historias. Estas tensiones socavan la integridad periodística, ya que las crecientes presiones para publicar más rápido pueden conducir a la difusión de informes no verificados o falsos, lo que erosiona aún más la confianza pública en el periodismo.
Más allá de estos y otros desafíos técnicos, el uso de la IA en el periodismo puede prestarse a dilemas éticos en relación con la transparencia y la rendición de cuentas. Además de plantear preguntas sobre la originalidad y la responsabilidad editorial, es posible que los consumidores no sean conscientes del papel de la IA en la producción de noticias. La dependencia de la IA en el periodismo también corre el riesgo de homogeneizar las narrativas, ya que la IA generativa utiliza estadísticas predictivas para generar los resultados más probables y, por lo tanto, las tendencias hacia lo genérico. Además, los algoritmos a menudo priorizan las tendencias sobre las ideas profundamente investigadas, lo que reduce la gama de perspectivas presentadas al público. Estos desafíos ponen de manifiesto la urgente necesidad de contar con herramientas de verificación sólidas, directrices éticas e iniciativas de alfabetización mediática para combatir la erosión de la confianza en el periodismo en la era de la IA.
Por qué las voces diversas siguen siendo importantes en el periodismo para frenar la influencia negativa de la IA
Dados los cambios en el desarrollo, la información y la distribución de noticias, la inclusión de diversas voces sigue siendo esencial para contrarrestar las limitaciones, los sesgos y los desafíos de la IA. En primer lugar, los sistemas de IA reflejan los conjuntos de datos para los que están entrenados. Estos datos están digitalizados y pueden subrepresentar a los grupos cultural y lingüísticamente, y reflejar desigualdades sistémicas, especialmente si los datos se basan en la vigilancia o los estereotipos de raza o clase. Los sesgos inherentes pueden dar lugar a que la IA amplifique los estereotipos o margine a los grupos infrarrepresentados. Sin una supervisión humana diversa, las narrativas producidas o promovidas por la IA corren el riesgo de perpetuar las dinámicas de poder existentes en lugar de desafiarlas.
En segundo lugar, es justo compensar a los diversos medios de comunicación que han pasado toda su vida curando y archivando contenidos. En 2011, Google se asoció con uno de los periódicos negros más antiguos, The Afro, con sede en Baltimore, Maryland, para digitalizar sus colecciones. Más de un millón de artefactos de contenido noticioso han sido recopilados y mantenidos por el editor. Si bien la IA permitirá una mejor búsqueda y otras eficiencias, es imperativo que estas colecciones no se utilicen injustamente para entrenar sistemas de IA más sofisticados sin atribución o compensación a un periódico independiente que ya cuenta con recursos insuficientes.
El campo del periodismo también ha trabajado arduamente para eliminar a los representantes que pueden provocar tales estereotipos. Las diversas voces en el periodismo actúan como una salvaguarda crítica contra estos sesgos, aportando diversas experiencias vividas, percepciones culturales y perspectivas al proceso de narración de historias. Por ejemplo, los periodistas de comunidades marginadas pueden reconocer manipulaciones específicas del contexto, como la desinformación codificada culturalmente o los estereotipos dañinos, que la IA podría pasar por alto. Sus contribuciones enriquecen el proceso de reportaje, asegurando que el periodismo siga siendo una plataforma para contar historias auténticas e inclusivas. Una mayor diversidad entre los creadores de noticias y los narradores puede ayudar a descubrir y desafiar las narrativas manipuladoras diseñadas para explotar las divisiones sociales.
Por último, la representación diversa dentro de las redacciones es importante a medida que las audiencias se vuelven cada vez más escépticas con los medios influenciados por la IA. Las perspectivas humanas auténticas arraigadas en las experiencias vividas resuenan más profundamente, por lo que las redacciones que reflejan la demografía de sus audiencias fomentan la credibilidad y la conexión, demostrando un compromiso de representar con precisión las diversas experiencias sociales. La diversidad también sirve como contrapeso a la homogeneización de los contenidos generados por la IA, preservando la pluralidad de voces necesaria para un discurso público saludable.
Para aprovechar realmente el potencial de la IA y mitigar sus riesgos, las redacciones deben priorizar las prácticas equitativas de contratación y retención junto con la innovación tecnológica. La integración de diversas voces en los procesos editoriales no solo enriquece el periodismo, sino que también garantiza que la influencia de la IA se alinee con los ideales democráticos de inclusión y equidad. Al valorar la creatividad humana y el pensamiento crítico, el periodismo puede adaptarse a la era digital sin sacrificar su integridad o compromiso de servir al bien público en general.
Los periodistas, administradores de contenido y tecnólogos colaboradores brindaron comentarios sobre cómo abordar los persistentes desafíos de diversidad en el periodismo con el acto de equilibrio del uso de la IA. Declararon que el periodismo requiere una nueva estrategia para imaginar el uso de la IA, una que no siempre puede implicar asociaciones con los grandes medios de comunicación y las grandes tecnologías. A medida que las grandes empresas de tecnología se infiltran en los medios de comunicación, consumen los datos generados por las fuentes de noticias y, en algunos casos, los explotan con fines de lucro. La viabilidad de los diversos medios periodísticos depende en gran medida de la viabilidad económica de sus modelos de negocio, y sin una gama diversa de fuentes periodísticas, su trabajo corre el riesgo de ser borrado. Esto también es problemático para la propia IA, ya que las noticias son una fuente importante de datos de entrenamiento y, sin acceso a los datos humanos, los modelos de IA pueden volverse más homogéneos.
¿Hacia dónde vamos?
Si bien algunos de los colaboradores expertos hablaron de cómo la IA ayuda a la accesibilidad y la distribución generalizada de sus historias, no tener modelos de negocio de IA más equitativos y justos que acrediten y compensen a los periodistas por su contenido produce incongruencias de poder. Estas son algunas barreras adicionales que surgen cuando la IA se integra en el proceso periodístico.
- La traducción de idiomas sigue siendo limitada. Las limitaciones de la IA en la traducción multilingüe ) restringen el uso pleno de la información por parte de periodistas, otros creadores de contenidos y consumidores. Los modelos lingüísticos grandes (LLM) se crean principalmente para audiencias de habla inglesa y, en consecuencia, tienen lagunas en lo que respecta a la traducción de entrevistas y el mensaje del contenido.
- Muchos periodistas no están adaptando y utilizando la IA generativa de la misma manera en sus narraciones. La IA está disponible para muchas de las grandes salas de redacción, como Associated Press y NewsCorp , que también ofrecen capacitación para garantizar la fluidez básica de la IA. Entre las redacciones más pequeñas y los medios independientes y más diversos, es menos probable que este sea el caso. Además, la mayoría de las redacciones se están inclinando por herramientas más convencionales, como ChatGPT, sin tener en cuenta otros recursos de IA generativa que podrían ser menos costosos, más fácilmente disponibles y más localizados.
- Falta un amplio desarrollo profesional de los periodistas. Los periodistas tienen oportunidades limitadas de desarrollo profesional, debido en parte a los limitados recursos de las redacciones. Además, muy pocos periodistas son científicos de datos, lo que significa que carecen de la formación necesaria para entender los avances de la IA. Algunos creadores de contenido no utilizan estas herramientas en absoluto, incluso si les gustaría, porque tienen una experiencia limitada. Las redacciones de los medios de comunicación más pequeños e independientes tienden a quedar excluidas del aprovechamiento de las nuevas tecnologías simplemente debido a las limitaciones presupuestarias y/o a la escasez de personal y experiencia.
- Los creadores de noticias diversos a menudo carecen de los recursos o el apoyo para curar sus experiencias. Los participantes que representan a periodistas más diversos compartieron que, en comparación con sus colegas, a menudo no pueden aprovechar las mismas herramientas. Cuando se les pide que lo hagan, se les roba la capacidad de contar historias más matizadas culturalmente que reflejen sus experiencias. Es posible que estos creadores de noticias, a menudo de algunas de las editoriales más antiguas de los Estados Unidos, no tengan sus perspectivas incluidas en los sistemas de IA. Para abordar esto, debería haber más consorcios y colaboraciones para idear modelos de negocio menos disruptivos para apoyar a los periodistas negros, hispanos, indígenas y LGBTQ+ que luchan por mantener tanto la voz como la presencia en un panorama mediático altamente digitalizado.
- Los periodistas y los consumidores requieren conocimientos y fluidez en materia de IA. En ambos lados, la IA debe introducirse formalmente en ambas comunidades con cierto nivel de transparencia y conciencia de la procedencia del contenido digital, en términos de quién escribió los datos de entrenamiento relevantes y si el contenido proviene de una IA o de un humano, al tiempo que se reconoce que no existe un enfoque único para hacerlo. Debido a la sólida contribución que las noticias hacen a la esfera de la IA, es imperativo que los consumidores y periodistas cotidianos puedan tomar decisiones rápidas sobre la autenticidad de las fuentes de noticias.
Estas y otras ideas surgieron durante nuestro debate y condujeron a soluciones pragmáticas sobre cómo abordar el creciente uso de la IA en las redacciones y mejorar los esfuerzos para equilibrar la voz y la representación entre quienes elaboran y distribuyen sus historias. Una de esas soluciones es desarrollar estándares entre la comunidad periodística que alineen la ética, la integridad, la mitigación de sesgos y el alcance de los casos en que la IA es una fuente confiable y legítima para informar. Al igual que con otras afirmaciones sobre la excesiva dependencia de la IA, se acordó ampliamente que «los humanos deben mantenerse al tanto» para mantener la autenticidad de la narración, que se remonta a las intenciones originales de la profesión. Los participantes también pensaron que contar con una guía de estilo uniforme y ampliamente adoptada podría ayudar a los periodistas que se apoyan en la IA para realizar ciertas tareas.
La alfabetización y la fluidez de la IA fueron importantes para el grupo, así como garantizar que existan recursos equitativos en las redacciones de todo el país que utilicen o quieran utilizar la IA. La comunidad tecnológica debe participar en estas conversaciones con los periodistas y los medios de comunicación como socios iguales en las fases de diseño e implementación, no como aquellos que impulsan sus productos y su poder en la profesión.
El grupo también cree que es necesario realizar más investigaciones para comprender la interfaz entre los medios de comunicación tradicionales y este ecosistema digital en evolución con inflexiones de IA. Dicha investigación llenaría los puntos ciegos o ayudaría a las empresas a dejar de participar en comportamientos que son perjudiciales para la ética periodística y la independencia editorial.
Esta primera convocatoria fue pionera para reunir a expertos que se ven afectados por la IA en el periodismo y ayudar al campo a navegar por la última iteración de la revolución digital. La preocupación por los guardianes digitales ha sido un debate de larga data y, con la integración de la IA, las conversaciones se han vuelto más turbias en términos de dónde se deben trazar las líneas sobre la ética y la integridad de la información en el periodismo. ¿Cómo avanzamos hacia un marco más participativo en la evolución del campo? Estas y otras cuestiones deben abordarse, pero no sólo para promover los intereses de las grandes entidades informantes y de las ya establecidas. En cambio, el enfoque en la IA en el periodismo debe centrarse en cómo garantizar que más medios y periodistas puedan disfrutar de los beneficios de esta tecnología para abordar sus múltiples necesidades, al tiempo que se garantiza que no se borren las experiencias de diversas fuentes y medios.
Publicación original: https://www.brookings.edu/articles/journalism-needs-better-representation-to-counter-ai/
