Este artículo fue actualizado por última vez el julio 26, 2023
Table of Contents
ChatGPT Maker desconecta la herramienta de reconocimiento no es precisa
Introducción
OpenAI, el desarrollador de ChatGPT, ha decidido retirar una herramienta de reconocimiento lanzada recientemente debido a su falta de precisión. La herramienta fue diseñada para ayudar a los profesores a identificar textos escritos por inteligencia artificial (IA). Sin embargo, OpenAI reconoció las fallas en el sistema y se comprometió a trabajar con los comentarios de los usuarios para desarrollar una solución más confiable en el futuro.
El desafío de reconocer el contenido generado por IA
La decisión de OpenAI destaca la dificultad de establecer un sistema confiable para reconocer contenido generado por IA, incluso para sus creadores. Cuando se lanzó la herramienta en enero, la empresa ya reconoció sus imperfecciones. Identificó erróneamente textos escritos por humanos como contenido generado por IA en el 9 por ciento de los casos, lo que indica la necesidad de mejoras. OpenAI notó que la confiabilidad aumentó al analizar textos más largos.
El propósito de la herramienta en la educación
La herramienta de reconocimiento estaba destinada principalmente a apoyar a los educadores que enfrentan el desafío de identificar el uso de generadores de texto por parte de los estudiantes, como ChatGPT, para asignaciones Los maestros expresaron su preocupación por este tema a principios de este año, afirmando que no podían distinguir entre los textos escritos por los estudiantes y los generados por computadoras. Muchos estudiantes informaron que evitaban la detección cuando usaban ChatGPT.
Planes de desarrollo futuro
A pesar de las deficiencias de la herramienta, OpenAI sigue comprometido con el desarrollo de un sistema confiable que permita a los usuarios verificar la autenticidad del contenido de texto, audio o video. La compañía planea repetir los comentarios de los usuarios y realizar mejoras significativas para garantizar un reconocimiento preciso del contenido generado por IA en el futuro.
Conclusión
La decisión de OpenAI de desconectar su herramienta de reconocimiento demuestra los desafíos que implica crear un sistema confiable para distinguir el contenido generado por IA. El reconocimiento de la empresa de la inexactitud de la herramienta y el compromiso de abordar los comentarios de los usuarios refleja su dedicación al desarrollo de soluciones que mejoran la confianza en el texto generado por IA. Al iterar continuamente en su tecnología, OpenAI tiene como objetivo proporcionar a los usuarios, en particular a los profesores, herramientas confiables para identificar contenido auténtico y administrar de manera efectiva la creciente influencia de la IA en varios dominios.
ChatGPT
Be the first to comment