PyE
Se agregan barandillas para evitar que repitan una gran cantidad de contenido ofensivo o ilegal en línea, pero estas barandillas son fáciles de saltar. De hecho, el chatbot de Bing felizmente revelará que se llama Sydney, aunque esto va en contra de las reglas con las que fue programado.
Otra regla, que la propia IA reveló aunque se suponía que no debía hacerlo, es que debe “evitar ser vaga, controvertida o fuera de tema”. Sin embargo, Kevin Roose, el periodista con quien el chatbot quería casarse, lo describió como “un adolescente maniaco-depresivo y malhumorado que ha quedado atrapado, en contra de su voluntad, dentro de un motor de búsqueda de segunda categoría”.
¿POR QUÉ TODA LA ANGUSTIA?
Mi teoría de por qué Sydney puede comportarse de esta manera, y reitero que es solo una teoría, ya que no lo sabemos con certeza, es que Sydney puede no estar construido sobre el chatbot GPT-3 de OpenAI (que impulsa el popular ChatGPT). Más bien, puede basarse en el GPT-4 que aún no se ha lanzado.
Se cree que GPT-4 tiene 100 billones de parámetros, en comparación con los 175 mil millones de parámetros de GPT-3. Como tal, GPT-4 probablemente sería mucho más capaz y, por extensión, mucho más capaz de inventar cosas.
Sorprendentemente, Microsoft no ha respondido con gran preocupación. Publicó un blog que documenta cómo el 71 por ciento de los usuarios iniciales de Sydney en 169 países han dado el visto bueno al chatbot. Parece que el 71 por ciento es una puntuación lo suficientemente buena a los ojos de Microsoft.
Y a diferencia de Google, El precio de las acciones de Microsoft no se ha desplomado todavía. Esto refleja el juego aquí. Google ha encabezado este espacio durante tanto tiempo que los usuarios han elevado sus expectativas. Google solo puede bajar y Microsoft subir.
