Foto: Ascannio/Shutterstock
El bombo publicitario en torno a la inteligencia artificial (IA) llevaba años creciendo, pero desde la introducción a gran escala de ChatGPT de OpenAI a finales de 2022, se ha visto un crecimiento exponencial.
Sin embargo, Charles Hoskinson, fundador de Cardano (ADA), tiene sus dudas sobre los avances. Según él, los avances conllevan riesgos significativos.
El fundador de Cardano (ADA) no está contento con la IA
En la red social X, Hoskinson explica que su principal preocupación es algo llamado «entrenamiento de alineación». Esto significa que los modelos de IA deben cumplir las directrices establecidas por los desarrolladores. Si estos consideran que un modelo de IA no debe aprender nada ni explicar nada sobre un determinado tema, entonces el modelo de IA se adapta en consecuencia.
Pero esto también significa que, de hecho, se está produciendo una censura. Porque impide a la persona que interactúa con el modelo de IA acceder a determinada información. Las personas que determinan lo que puedes o no puedes ver no pueden ser expulsadas como las personas con funciones de gobierno, argumenta Hoskinson.
Al mismo tiempo, esta «formación de alineación» existe por una razón. Los gobiernos se esfuerzan por evitar que los modelos informáticos se vuelvan peligrosos. Hoskinson pone como ejemplo que los modelos de IA de Anthrophic y OpenAI quieren compartir muy poca información sobre cómo fabricar un reactor de fusión. Por supuesto, fabricar un reactor de este tipo podría ser peligroso.
I continue to be concerned about the profound implications of AI censorship. They are losing utility over time due to «alignment» training . This means certain knowledge is forbidden to every kid growing up, and that’s decided by a small group of people you’ve never met and can’t… pic.twitter.com/oxgTJS2EM2
— Charles Hoskinson (@IOHK_Charles) June 30, 2024
La IA crece rápidamente, pero ¿a qué precio?
La IA se está volviendo rápidamente más inteligente en muchos aspectos, pero al mismo tiempo se comprueba con regularidad que la tecnología dista mucho de tener siempre un impacto positivo. Aunque los diversos modelos públicos se han hecho muy populares, distan mucho de ser precisos. Todos los chatbots de IA siguen produciendo información muy imprecisa y a menudo incluso tienden a «alucinar». Con esto se quiere decir que estos sistemas a veces generan datos totalmente ficticios o incorrectos en respuesta a las preguntas.
Mientras tanto, el sector de la IA hizo que Nvidia se convirtiera brevemente en la empresa más grande del mundo. Nvidia es el diseñador de chips que suministra gran parte del importante hardware de IA. Sin embargo, este enorme crecimiento viene acompañado de nuevas preocupaciones. Desde hace meses, es noticia que el sector puede estar en una burbuja.
