ChatGPT: El Estudiante Crea Una Aplicación Para Detectar Ensayos Escritos Por IA | Tecnologia Noticias

ChatGPT: el estudiante crea una aplicación para detectar ensayos escritos por IA

ChatGPT: el estudiante crea una aplicación para detectar ensayos escritos por IA

La herramienta de Edward Tian se ha vuelto viral en las redes sociales, atrayendo la atención mundial de maestros de escuela y funcionarios de admisiones universitarias.

Edward Tian ha estado pensando en el poder de la inteligencia artificial durante varios años.

Pero fue en una conferencia repleta el año pasado que el estudiante de informática de la Universidad de Princeton vio cuán avanzada se había vuelto esta tecnología. Su asesor de tesis mostró un conjunto de textos frente a la clase y pidió a los estudiantes que distinguieran entre lo que había escrito un humano y lo que había generado la IA.

Muchos estudiantes adivinaron mal. Entonces se dio cuenta de que había un problema que necesitaba una solución.

«Esta tecnología solo mejorará cada vez más, la IA llegó para quedarse. Este es el futuro», dijo Tian a la BBC.

«Pero al mismo tiempo, creo que tenemos que adentrarnos en este futuro de manera responsable».

Es por eso que el joven de 22 años pasó sus vacaciones de invierno en un café en su ciudad natal de Toronto, trabajando en una aplicación que puede determinar con gran precisión si un texto está escrito por un humano o un bot.

Lo creó en respuesta a la aparición de ChatGPT a fines del año pasado, un chatbot en línea gratuito que puede escribir de manera experta casi cualquier cosa, desde ensayos en inglés y artículos de noticias, hasta planes de comidas y código de computadora, cualquier cosa, desde un simple aviso.

La popularidad de ChatGPT desde su lanzamiento ha sido recibida con alarma, incluso por parte de algunas escuelas de EE. UU. que lo han bloqueado en sus servidores en un intento de evitar que los estudiantes hagan trampa. A otros les preocupa que el bot les quite trabajo a los escritores y creativos, o que los piratas informáticos lo utilicen con fines más siniestros para escribir malware malicioso.

El Sr. Tian, ​​que está en su último año en Princeton, dijo que la aplicación que desarrolló, GPZerofue el primer paso para abordar una serie de problemas que pueden surgir a medida que la inteligencia artificial se vuelve más inteligente y más accesible.

eduardo tian
Edward Tian es un estudiante de último año de 22 años que estudia informática en la Universidad de Princeton.

La aplicación funciona al observar dos variables en un texto: confusión y ráfagas, y asigna una puntuación a cada una de estas variables.

Primero, la aplicación mide qué tan familiarizado está con el texto presentado dado lo que ha visto durante el entrenamiento. Cuanto menos familiar es, mayor es la confusión del texto, lo que significa que «es más probable que esté escrito por humanos», dijo Tian.

Luego mide la ráfaga escaneando el texto para ver qué tan variable es. Por ejemplo, ¿el texto tiene una combinación de oraciones cortas y largas? ¿O la escritura parece más suave y uniforme?

«Si traza con precisión a lo largo del tiempo, un documento escrito por humanos variará mucho», dijo Tian. «Subía y bajaba, tenía picos repentinos».

Todavía está trabajando para mejorar GPTZero, pero ha lanzado una versión beta para uso público. En un tuit, demostró cómo la aplicación puede oler con éxito la diferencia entre un ensayo publicado en la revista New Yorker y una carta escrita por ChatGPT.

Dijo que desde entonces también lo ha probado alimentando la aplicación de la BBC con artículos escritos por periodistas, en comparación con artículos escritos por ChatGPT con el mismo titular como aviso. (Tian trabajó anteriormente con la unidad de investigación de la BBC). Dijo que la aplicación logró adivinar la diferencia entre los textos con una tasa de falsos positivos de menos del 2%.

Desde su lanzamiento, la aplicación del Sr. Tian ha sido utilizada por miles de personas. Dijo que desde entonces ha sido contactado por profesores y funcionarios de admisiones universitarias de todo el mundo que están interesados ​​en cómo funciona.

Si bien GPTZero se creó para combatir el plagio académico, Tian dijo que ve aplicaciones como la suya que se utilizan para abordar otros problemas que surgirán con la creciente popularidad de la inteligencia artificial, como las campañas de desinformación en línea.

Sin embargo, no está en contra de la inteligencia artificial; de hecho, dijo que estaba muy entusiasmado con su aparición y que la encontró útil para ayudarlo a escribir código de computadora y resolver otros problemas. Pero dijo que era importante desarrollar salvaguardas para cualquier nueva tecnología porque le da a su uso un sentido de credibilidad.

Pero dijo que, sobre todo, la popularidad de su aplicación habla de «un deseo humano de saber la verdad».

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *