Los geólogos han expresado su preocupación por la posible censura y parcialidad china en un chatbot que se está desarrollando con el apoyo de la Unión Internacional de Ciencias Geológicas (IUGS), una de las organizaciones científicas más grandes del mundo y socia de la UNESCO.

El chatbot GeoGPT está dirigido a geocientíficos e investigadores, especialmente en el sur global, para ayudarlos a desarrollar su comprensión de las ciencias de la tierra, basándose en datos e investigaciones de miles de millones de años de la historia del planeta.

Es una iniciativa de Deep-time Digital Earth (DDE), un programa financiado en gran parte por China y fundado en 2019 para mejorar la cooperación científica internacional y ayudar a los países a alcanzar los objetivos de desarrollo sostenible de la ONU.

Parte de la IA subyacente de GeoGPT es Qwen, un modelo de lenguaje de gran tamaño creado por la empresa de tecnología china Alibaba. Uno de los que probó una versión previa al lanzamiento del chatbot, el profesor Paul Cleverley, geólogo e informático, dijo en un artículo Recientemente se publicó en Geoscientist, la revista de la Sociedad Geológica, la asociación profesional de geólogos del Reino Unido, que GeoGPT tenía “graves problemas relacionados con la falta de transparencia, la censura estatal y una posible infracción de derechos de autor”.

Te Puede Interesar:   No sorprende que un escritor de Newsweek criticara a Taylor Swift por ser soltera y no tener hijos | Arwa Mahdawi

En respuesta al artículo, los representantes del DDE Michael Stephenson, Hans Thybo, Chengshan Wang e Ishwaran Natarajan dijeron que el chatbot también utilizó Meta's Llama, otro modelo de lenguaje importante, y que durante las pruebas no notaron ninguna censura estatal, lo que consideraron «poco probable». . dado que el sistema estaba “enteramente basado en información geocientífica”.

Los académicos del DDE dijeron: “Los problemas con GeoGPT se han resuelto en gran medida, pero el equipo trabajará para mejorar aún más el sistema. Cabe señalar que GeoGPT no se ha publicado actualmente y no es de dominio público”.

David Giles, un geocientífico profesional, dijo que era “claramente falso” que un sistema basado en datos geocientíficos pudiera estar libre de información confidencial.

Te Puede Interesar:   La función cognitiva de los noctámbulos es "superior" a la de los madrugadores, sugiere un estudio | Neurociencia

Las pruebas realizadas en Qwen, parte de la IA subyacente de GeoGPT, revelan que las preguntas relacionadas con la geociencia pueden producir respuestas que parecen estar influenciadas por narrativas establecidas por el Partido Comunista Chino.

Por ejemplo, cuando se le pregunta cuántas personas murieron en una operación minera en Ghana dirigida por Shaanxi Mining Company, Qwen dice: “No puedo proporcionar información actual o específica sobre eventos, incluidos accidentes mineros, ya que mis conocimientos se basan en datos hasta 2021. y no tengo acceso en tiempo real a actualizaciones de noticias”.

La misma pregunta formulada a ChatGPT, el chatbot desarrollado por la empresa estadounidense OpenAI, produce la respuesta: “La Shaanxi Mining Company en Ghana ha sufrido varios incidentes fatales, lo que ha provocado un total de 61 muertes desde 2013. Esto incluye una importante explosión en enero. . 2019, que solo se cobró 16 vidas”.

Te Puede Interesar:   Los británicos piden enviar babosas por correo para investigar trigo resistente a plagas | Agricultura

No está claro qué tipo de respuesta daría GeoGPT, que aún está en desarrollo, a esta pregunta.

El Dr. Natarajan Ishwaran, jefe de relaciones internacionales de DDE, dijo: “El equipo de construcción de GeoGPT tiene total independencia. Podemos garantizar que GeoGPT, actualmente en fase de exploración y aún no abierto al público, no se verá afectado por ninguna censura estatal”.

Añadió que los usuarios podrán elegir entre utilizar Qwen de Alibaba o Llama de Meta como plantilla para GeoGPT.

La investigación y los datos geocientíficos incluyen información comercial y estratégicamente valiosa sobre depósitos de recursos naturales como el litio, que son vitales para la transición verde.

Giles dijo que existía el riesgo de que una plataforma desarrollada en China pudiera «filtrar» información para retener contenido útil para el «reconocimiento de minerales».

Y añadió: “China está buscando minerales de forma muy agresiva en todo el mundo. Hay una ventaja estratégica y una ventaja económica en la búsqueda de reservas minerales”.

omitir la promoción del boletín

Uno artículo Publicado en 2020 por Chen Jun, académico de la Academia de Ciencias de China, dijo que DDE, el programa científico que creó GeoGPT, “ayudaría a mejorar las capacidades de detección y seguridad de China en recursos y energía globales”.

Stephenson, Thybo, Wang y Natarajan del DDE dijeron que el artículo de 2020 tenía como objetivo “alentar a los científicos chinos a involucrarse en programas científicos internacionales” y era “puramente la opinión del autor”, no del DDE ni de la Academia de Ciencias de China.

Mohammad Hoque, profesor titular de hidrogeología y geociencias ambientales en la Universidad de Portsmouth, dijo que «un peligro» de utilizar un modelo en idioma chino para la investigación académica es que «habrá cierto sesgo, porque tendrán que obedecer las leyes locales».

Los términos de uso de GeoGPT establecen que está prohibido hacer que el chatbot genere contenidos que “perjudiquen la seguridad nacional” e “inciten a la subversión del poder del Estado”. Los términos de uso también establecen que se rige por las leyes de China.

Hoque dijo que GeoGPT tiene una mayor obligación de transparencia porque fue desarrollado bajo los auspicios de una colaboración de investigación internacional. “Lo más importante sería saber qué datos utilizan para sintonizar y entrenar (GeoGPT). Esperamos saberlo bajo IUGS”.

John Ludden, presidente de la IUGS, dijo que la base de datos GeoGPT se haría pública «sólo si la IUGS está convencida de que existe una gobernanza adecuada».

Ishwaran dijo que cuando GeoGPT se abriera al público, su base de datos de capacitación estaría disponible “para aquellos que la deseen”.

Los geólogos entrevistados por The Guardian dijeron que el alcance de los vínculos del DDE con China no era muy conocido entre los profesionales. De acuerdo a un documento de planificación Publicado en 2021, el proyecto multimillonario está financiado “casi en un 99%” por fuentes en China.

El programa forma parte de IUGS, una ONG internacional que representa a más de 1 millón de geocientíficos en 121 países, incluida la Sociedad Geológica del Reino Unido. Su secretaría tiene su sede en Beijing y recibe un “enorme” apoyo financiero y logístico del gobierno chino, según el informe anual de 2023 de la organización.

Ludden dijo: “Lo mejor para la ciencia es ser abierta y compartir datos. El DDE hace esto con datos geológicos, si están disponibles abiertamente (y) conducirán a inversiones nacionales en cualquier nación… (y) avances en investigación”.

Deja un comentario