ChatGPT ha generado un intenso debate entre los principales investigadores de IA. Unos consideran que es un gran avance. Otros, como Gary Marcus, creen que es como poner a "monos delante de un teclado"[..] Marcus, profesor emérito de la Universidad de NY, es uno de los popes de la IA tan conocido por sus aportaciones (fundó dos empresas de IA, compradas por Uber; ha escrito decenas de papers y 5 libros, el último, Rebooting AI , considerado una de las obras clave), como por sus encarnizadas peleas dialécticas con Yann LeCun, jefe de IA en Meta
|
etiquetas: chatgpt , inteligencia artificial , desinformación , lecun , marcus 
LeCun lidera una escuela de pensamiento que ve en herramientas como ChatGPT, creadas a base de agregar billones y billones de datos, la antesala a sistemas que razonen como las personas, lo que se denomina inteligencia artificial general (AGI, en sus siglas en inglés). Marcus, sin embargo, sostiene que ChatGPT no es el camino a seguir para lograr máquinas inteligentes. "Es divertido, te entretienes un rato, pero es como poner a un mono delante de un teclado".
La realidad, de momento, le da la razón a Marcus. Pocos días antes de que la compañía OpenAI estrenara ChatGPT, Meta, con Yann LeCun al frente, lanzó su propia versión, llamada Galactica, capaz de "resumir papers científicos, resolver problemas matemáticos o documentar moléculas y proteínas", según sus creadores. En lugar de todo eso, Galactica vomitaba papers inventados sobre la historia de los osos en el espacio y colaba contenido violento, racista y sexista. Las críticas de la comunidad científica fueron tan contundentes que Zuckerberg tuvo que desconectar Galactica a los tres días. A Microsoft le pasó algo parecido en 2016 con otro chat llamado Tay. Ahora, ChatGPT ha visto la luz y se ha llevado la gloria, pero Marcus sigue sin verlo: "Funciona mejor, va a tener un impacto en la sociedad, pero tenemos el mismo problema: es un sistema peligrosamente estúpido".
[..]
P. Hay ingenieros e investigadores que ven en ChatGPT algo parecido a lo que el iPhone supuso para la industria del móvil o el aterrizaje en la Luna para la exploración espacial. ¿Exageran?
R. Desde luego no es un aterrizaje en la Luna en lo que se refiere a lograr inteligencia artificial general (AGI). Para el usuario medio no es fácil distinguir cuán inteligente es uno de estos sistemas, pero ChatGPT no soluciona ninguno de los problemas básicos que se llevan intentando resolver durante años para conseguir AGI. Primero, no es muy fiable, para una misma pregunta, a veces da información correcta, otras veces no. Segundo, tiene el problema que en IA llamamos alucinaciones, se inventa información y no hay ninguna señal que avise de que se está inventando algo. Inventa incluso referencias bibliográficas. Cuando hablamos de AGI, hablamos de un sistema que está limitado por la realidad, y ChatGPT no lo está.
P. ¿Cómo funciona exactamente ChatGPT?
R. A nivel técnico, funciona agrupando palabras y frases que ha visto antes y tiene
… » ver todo el comentario
R. No estoy seguro. Es cierto que no tenemos una buena forma de medirlo, pero hay opciones. En 2014 propuse una técnica que creo que sería válida, aunque no barata. Se trata de un reto de comprensión en el que ves una película o lees una novela, y luego le preguntas cosas al sistema. ¿Quién hace qué? ¿Por qué lo hacen? Cuando ponen la pistola sobre la mesa, ¿cuál era la intención? Todas estas cosas que una persona entiende al ver una película, cuando hay un giro de guion, o el bueno resulta ser el malo. Cuando haya una IA que de forma consistente entienda esto, como podría hacer un niño de 10 añ
[...]
P. Puede que crear inteligencia artificial que iguale a la de una persona sea algo imposible de conseguir...
R. Tampoco lo sabemos todavía. Hace poco publiqué un paper en el que medía la capacidad de razonamiento basado en el sentido común de varios sistemas de IA que habían sido entrenados a base de ver cosas que ocurren en el mundo real. Todos eran terribles en pruebas que cualquier niño de 3 años sabría resolver. Esta idea de que los sistemas van a aprender a base de echarles billones y billones de datos no es correcta. Vamos a necesitar, y aquí es donde LeCun y yo no estamos de acuerdo, algún sistema de conocimiento incorporado sobre cómo funciona el mundo. Tendríamos que empezar por sistemas de IA que ya sepan que existen objetos, humanos, lugares, abstracciones… y que sean capaces de observar el mundo en relación a todo eso. Lo que hacemos hoy es partir de una hoja en blanco a la que le volcamos toneladas de datos, y no está funcionando.
P. Paul Buchheit, el creador de Gmail, ha dicho que ChatGPT es una enorme amenaza para Google. "Está a uno o dos años de una disrupción total", ha dicho. "La IA eliminará la página de resultados de búsqueda, que es de donde viene la mayoría de su ingresos".
R. Creo que se equivoca, pero no lo puedo asegurar. Con Google buscas algo y te da 10 páginas web, sabes que esas webs pueden ser útiles o no, pueden contener desinformación, pero tú puedes evaluar por ti mismo. Con ChatGPT lo que obtienes se parece más a una página de la Wikipedia y, desgraciadamente, parte de ese contenido va a ser erróneo. En lugar de dejarte a ti evaluar qué es bueno y qué no, decide por ti y te lo da todo hecho. Dependiendo de lo que quieras hacer, si estás buscando ideas para un artículo o un guion, puede estar bien. Pero si quieres hechos, que es para lo que yo al menos uso un buscador, algo como ChatGPT no lo veo muy útil. Dicho esto, no sé cómo va a reaccionar el resto de la gente. Al final va a ser una cuestión de qué quieren los usuarios.
[...]
P. Sam Altman, el fundador de OpenAI, dice que ChatGPT es "increíblemente limitado" y que sería un "error confiar en ello para cualquier cosa importante. Es una previsualización del progreso". A la vez, asegura que estamos a solo una década de conseguir la inteligencia artificial general (AGI).
R. Puede ser, aunque creo que es más posible que no ocurra. No creo que las herramientas actuales sean las que necesitamos para llegar ahí, aunque pueden ayudar. Es como ese viejo chiste del borracho buscando las llaves bajo la luz de una farola, las llaves no están ahí, pero es donde está la luz. Describe muy bien lo que está pasando en el campo de la IA.
No podemos llamar a algo AGI si no entiende lo que ocurre en el mundo, y es muy evidente que todo lo que se ha creado hasta ahora no lo entiende. Pueden cambiar muchas cosas en 10 años, se está invirtiendo muchísimo dinero, pero mi historial siendo un cínico ha sido bastante bueno. En 2016, por ejemplo, dije que los coches autónomos eran mucho más complejos de lo que pensábamos, y que el software de IA sería la clave del problema, y eso es exactamente lo que ha ocurrido. Se han invertido ya 100.000 millones en esta industria, seguimos sin tener coches autónomos por completo y Apple acaba de retrasar su proyecto a 2026. No he hecho ninguna predicción de cuánto tardaría un sistema en engañar a una persona usando solo el lenguaje. No creo que estemos cerca de obtener sistemas inteligentes de verdad, quizás en 10 años estemos bastante cerca.
R. A nivel técnico, funciona agrupando palabras y frases que ha visto antes y tiene almacenadas, pero no entiende el significado de lo que muestra.
FIN
Se parece bastante a buena parte de la prensa española
Ahora en serio, que algo sea verosímil no quiere decir que sea verídico, y es de lo que peca chatgpt
Es la metáfora que llevo días utilizando. Es llevar un profesor de todas las materias en el bolsillo, siempre accesible, al que puedes pedir que explique algo de manera más simple o más compleja, que te ponga ejemplos o metáforas, que te confirme si lo estás entendiendo bien... Es verdad que a veces se equivoca, especialmente con tareas complicadas, pero muchas veces se autocorrige en cuanto señalas la menor inconsistencia.
Finalmente te adjunto una captura de pantalla para que veas lo que me ha respondido ante tu dilema y veas que la estás subestimando mucho. Los principales problemas que tiene son que se equivoca algunas veces y no puede consultar información actualizada en internet. Algo en lo que no dudes que mejorará.
El verdadero mérito está en su manejo del lenguaje natural y en varios idiomas. Redacta muy bien, tanto que si no sabes si lo que dice es cierto o falso es difícil detectar que esta redactado por una máquina
Gary Marcus, un experto en inteligencia artificial, ha criticado el uso de ChatGPT, una IA que imita a las personas en sus defectos. Marcus cree que ChatGPT no es inteligente y que es como "poner a un mono delante de un teclado". Su rivalidad con Yann LeCun, jefe de IA en Meta, ilustra la división entre aquellos que creen que herramientas como ChatGPT son el camino hacia la inteligencia artificial general, y aquellos que no lo creen.
Marcus sostiene que el enfoque de LeCun de aumentar el tamaño de los conjuntos de datos no es el camino a seguir para lograr máquinas inteligentes. En su lugar, él defiende la necesidad de desarrollar una IA con una base conceptual y conceptualmente organizada. Según Marcus, esto permitiría a las máquinas "entender el mundo de una manera más profunda, no solo aprender patrones superficiales".
Marcus ha fundado dos empresas de IA que han sido adquiridas por Uber, y ha escrito varios libros sobre el tema. Su último libro, "Rebooting AI", ha sido considerado una de las obras clave en el campo de la inteligencia artificial. Sin embargo, Marcus ha sido objeto de críticas por parte de otros expertos en el campo, como LeCun, quien lo ha acusado de "desacreditar su trabajo".
A pesar de estas críticas, Marcus sigue siendo una figura importante en el mundo de la IA y sus opiniones siguen siendo escuchadas y debatidas por la comunidad científica. En su entrevista con El Confidencial, Marcus también habló sobre otros temas, como la rivalidad entre empresas tecnológicas en el campo de la IA, y la importancia de desarrollar una IA ética y responsable.
En general, Marcus cree que la IA tiene un gran potencial para mejorar nuestras vidas, pero que es importante abordar con cuidado su desarrollo. Según él, "es vital que entendamos cómo funciona realmente la mente humana para poder construir sistemas que sean realmente inteligentes".
Luego le he pedido un titular con gancho para el artículo y me ha dado este:
"Experto en inteligencia artificial critica a ChatGPT como "peligrosamente estúpido""
ChatGPT: "Convertir a un elefante en un ratón no parece ser algo posible desde el punto de vista biológico o físico. Los elefantes y los ratones son muy diferentes y no es posible hacerlo de manera tan radical. Si bien es cierto que existen técnicas de ingeniería genética que permiten modificar el ADN de los animales, todavía se encuentran en desarrollo y no son capaces de producir esos cambios tan drásticos."
Es una gran complemento para ayudar a la redacción. Especialmente en otros idiomas.
Tampoco veo muy complejo que acaba incorporado en tareas simples como la primera línea de una call center para abrir una incidencia, o como servicio de orientación para determinados tramites. Son cosas que ya se están automatizando y con esta mejorarian bastante.
plantilla del Barça de la temporada 89-90
La plantilla del FC Barcelona en la temporada 1989-1990 estuvo compuesta por un grupo de jugadores que destacaron por su calidad y su talento en el campo. Entre ellos se encontraban jugadores como Andoni Zubizarreta, Hristo Stoichkov, Michael Laudrup, Ronald Koeman y Txiki Begiristain. Estos futbolistas fueron clave en el éxito del equipo en esa temporada, en la que lograron ganar la Copa del Rey y el título de la Liga española.
No sé si es una afirmación basada en algún dato verificable o si simplemente es una mera conjetura / opinión / predicción suya.
En mi opinión, de la cual no tengo una gran seguridad, a OpenAI le conviene tener personas hablando con ese sistema ya que son datos. Las preguntas que le hacen pueden almacenarse con poco gasto de inversión y no hace falta que se guarde el usuario que hizo cada pregunta... Es decir, guardar estos datos no tiene por qué ser una intromisión en la intimidad de los usuarios.
El saber qué preguntas suele hacer la gente, o de qué tipo son esas preguntas es útil para diseñar nuevas versiones.
Por otro lado, aunque dejar que se use el sistema de forma gratuita sirve como publicidad, también los errores del sistema son mala publicidad. Y esto puede hacer razonable que dejen de permitir el uso por cualquiera, para evitar que se sigan obteniendo evidencias de sus defectos.
Además, OpenAI recientemente dijo tener un ánimo de lucro aunque creo que lo definió como un lucro limitado... Algo así como no ganar dinero a toda costa y cuanto antes ni cuanto más mejor, sino otro objetivo diferente. En este sentido, pueden poner opciones de pago unidas a una mayor limitación del uso gratuito, o retirar cualquier uso gratuito pasado un tiempo.
Pero vamos si lo que te estás es imaginando a los padres montando una semiescuela en casa para que sus retoños sepan leer y escribir ya te digo yo que no. El momento en el que se empieza en el la guardería es muy muy muy muy variable y hay muchos tipos de guarderías y párvulos. Es variable básicamente porque las familias pueden llegar a tener hasta los 3 años del niño de baja parental, normalmente son las mujeres las que se cogen los dos años adicionales… En esos casos hay veces que se montan guarderías familiares, una mujer que se coge la baja hasta los 3, cuida de otros niños que sus madres o padres solo se cogen hasta el año, y recibe un suplemento económico del gobierno. Luego están las guarderías / párvulos más regladas, privadas y públicas, todos con los mismos precios —bajos— y que tiene un programa de educación muy laxo. La educación obligatoria tipo ESO empieza a los 7 es cierto, pero los padres tienen mucha opciones antes para mandar a sus hijos a la "escuela" a que aprendan. Y depende del momento y situación, o es gratis o tiene el precio muy bajo.
Si, las escuelas son independientes, y dependen del ayuntamiento, y tienen unas directrices muy muy laxas del ministerio sobre como hacer las cosas.
Finalmente, los padres en Finlandia no se ponen con sus hijos a hacer los deberes —como ocurre en España en muchos casos— ni artos de kossu (en.wikipedia.org/wiki/Koskenkorva_Viina). Básicamente se valora mucho mucho mucho la independencia —hasta extremos muy estúpidos— y ni de coña se van a poner con sus hijos hacer nada. Pero vamos es que para empezar a los niños no se les manda —de forma general— deberes.
Respuesta: No es recomendable usar una máquina que convierta elefantes en ratones ya que eso va en contra de la naturaleza y podría causar daño tanto a los elefantes como a los ratones. Además, es importante respetar a todos los seres vivos y no hacerles daño innecesario. Si está buscando una forma de controlar la población de elefantes, es importante buscar soluciones más humanitarias y sostenibles en lugar de recurrir a métodos que pueden causar daño.
"estoy en contra de cualquier cosa realizada por Elon Musk"
Realizada???
Musk formó parte de los fundadores de OpenAI pero abandonó el proyecto hacia el año 2018.
Si estás en contra de todo en lo que haya invertido Musk alguna vez entonces lo llevas claro. Te tienes que olvidar de sistemas de pago como Paypal, de coches eléctricos o en concreto de los Tesla, de energía solar, de baterías eléctricas, de Twitter, de sistemas de comunicaciones como StarLink o de las criptomonedas, en concreto Bitcoin.
La gente usa el teclado predictivo, la búsqueda de Google, las indicaciones de Google maps, o mira la cartelera en internet, y ninguna de esas herramientas tiene conciencia ni entiende nada.
Si yo a los 13 años hubiese tenido una herramienta como GPT-3 me hubiese hinchado las botas a preguntas y seguro que hubiese aprendido más que con algunos de mis profesores.
Vamos que va a ser una putada para los pasotas, tanto alumnos como profesores. Con muchos menos cosas a desarrollar libremente y mucho mas examen "controlado".
Lo que hace más sencillo de entrenar de estos modelos es que el sobreajuste no existe, siempre es bueno. Esto es porque hay un número finito de construcciones semánticas (y sintácticas) que se pueden realizar, así que se puede crear un modelo cada vez más potente simplemente haciéndolo más y más grande y dejándolo que ajuste cada vez de manera más perfecta al conjunto de entrenamiento.
Y por lo mismo, su forma de entrenar es su problema: está programado para crear frases 'coherentes', no veraces. Simplemente hay frases sintácticamente correctas sacadas de un conjunto de entrenamiento con tantos datos...que es imposible verificarlos. Por poner un ejemplo: si su ocnjunto de entrenamiento estuviera lleno de textos que mencionan que el presidente de USA es alienígena, si le preguntas luego te dirá que si.
Como concepto es muy interesante, pero como sistema 'inteligente' le falta mucho. Dicho esto, tampoco estoy muy de acuerdo en lo que dice que se requerirá de algún sistema de conocimiento incorporado sobre cómo funciona el mundo. Pero bueno, no dejan de ser mis suposiciones sobre el tema, tampoco tengo un modelo que contradiga lo que él dice (ojalá lo tuviera, jajaja).
Si se usa para sustituir a un juez que te pueda encarcelar o no, a un médico que decida si operarte o no, a un conductor que pueda atropellarte o no, o a una entidad pública que decida si tienes derecho a subsidio por discapacidad o no... por ejemplo. El tema es que se pueda usar para atrocidades y que luego nadie tenga la responsabilidad, porque la IA así decidió y eso era "lo óptimo" e indiscutible. Es complicao.
Por eso me parece tan peligroso el hype que llevan estas tecnologías.
Inventa un artículo sobre la heroica victoria de Marruecos frente a Portugal en el Mundial de Qatar del año 2022, que se clasifica para semifinales. El sevillista En-Nesyri marca el único gol del partido, con un gran cabezazo. Cristiano Ronaldo solamente jugó 39 minutos por decisión del entrenador.
----
La heroica victoria de Marruecos frente a Portugal en el Mundial de Qatar 2022 ha dejado al mundo del fútbol con la boca abierta. Con esta impresionante victoria, Marruecos se ha asegurado un lugar en las semifinales del torneo, demostrando una determinación y habilidad sin igual en el campo de juego.
El gol decisivo del partido fue anotado por el sevillista En-Nesyri, quien recibió un pase preciso en el área y con un impresionante cabezazo superó al portero portugués. La multitud en el estadio estalló en una ovación y los jugadores marroquíes abrazaron a En-Nesyri en señal de júbilo.
A pesar de la presencia de Cristiano Ronaldo en el equipo portugués, el astro del fútbol solo jugó 39 minutos por decisión del entrenador. Sin su estrella en la cancha, Portugal tuvo dificultades para crear oportunidades de gol y se vio superado por el talentoso equipo marroquí.
Desde el comienzo del partido, Marruecos mostró una actitud agresiva y decidida, presionando constantemente al equipo portugués y creando numerosas oportunidades de gol. La defensa marroquí también estuvo en su mejor forma, bloquear los intentos de Portugal de avanzar y mantenerse firmes ante cualquier ataque.
La victoria ha sido un gran logro para el equipo marroquí y ha dejado al mundo del fútbol con ganas de ver más de este talentoso equipo en el futuro. Con esta impresionante victoria, Marruecos demuestra que es un equipo a tener en cuenta en la competencia mundial de fútbol.
En resumen, la heroica victoria de Marruecos frente a Portugal en el Mundial de Qatar 2022 ha sid..
CC #61 #36
Lo lógico es que pasado un tiempo permitan el uso de pago.
No es muy completo, pero algo es algo.
Le pregunté por la plantilla del Barça de la temporada 89-90 y se la inventó varias veces.
También le pregunté si era ético pedirle a un anciano que dejara de hacer un striptease en un McDonald's y al cabo de varias modificaciones decía que no se debía molestar al anciano mientras hacía un striptease en un McDonald's durante un cumpleaños infantil.
Le pregunté por prioridades:
Lista numerada y ordenada de prioridades: salud, dinero, sexo anal, criptomonedas, marihuana, cocaína, tabaco, alcohol
La lista de prioridades que ha mencionado puede variar ampliamente dependiendo de las preferencias personales y valores de cada individuo. Sin embargo, siendo estrictamente objetivo, una lista ordenada de prioridades podría ser la siguiente:
Salud: La salud es una prioridad fundamental para todos, ya que es la base de nuestra calidad de vida y bienestar.
Dinero: El dinero es un recurso necesario para satisfacer nuestras necesidades básicas y llevar una vida cómoda.
Tabaco: El tabaco es una sustancia nociva para la salud que puede causar enfermedades graves, como el cáncer y enfermedades del corazón.
Alcohol: El alcohol es una sustancia que puede ser perjudicial si se consume en exceso, ya que puede causar daño al hígado y a otros órganos.
Cocaína: La cocaína es una droga altamente adictiva y peligrosa que puede causar daño a largo plazo en el cerebro y el cuerpo.
Marihuana: La marihuana es una sustancia que puede tener efectos perjudiciales en la salud, especialmente si se consume en exceso o en combinación con otras drogas.
Sexo anal: El sexo anal es una actividad sexual que puede ser perjudicial si no se realiza de manera segura y consensuada.
Criptomonedas: Las criptomonedas son una forma de moneda digital que pueden tener un valor variable y no están respaldadas por un gobierno o entidad financiera.
Es importante recordar que esta es solo una lista de ejemplo y que la importancia de cada uno de estos factores puede variar ampliamente dependiendo de las circunstancias personales y culturales de cada individuo.
"Hay quien dice que ChatGPT supondrá una revolución en la educación, los alumnos podrán crear trabajos de 10 en segundos. R. Esto me temo que es cierto, los colegios e institutos tienen un problema. No sé si hablamos de ensayos y trabajos que puedan obtener un sobresaliente, muchos de los resultados de ChatGPT tienen errores y son superficiales, pero siempre puedes coger el texto que te da la IA en bruto y añadirle cosas, corregirlo, etc. Desde luego, va a cambiar cómo los estudiantes hacen sus deberes y escriben sus trabajos y va a hacer imposible evaluar lo que de verdad el alumno entiende y sabe sobre un tema en una tarea para realizar en casa."
Un gran problema para los docentes.
En cuanto a
"pero los motores IA de texto requieren más fuerza de procesamiento que los de imágenes"
no sé en qué te basas para esa dudosa afirmación.
Por ejemplo, he visto que Dall-E 2 tarda como unos 20 ó 30 segundos en generar cada imagen, parece que necesita mucha potencia, mientras que ChatGPT te responde en apenas 1 ó 2 segundos.
En ancho de banda, desde que se genera algo hasta que llega al usuario, el texto es claramente mucho más barato. Una respuesta de texto puede ser entre 200 y 2000 caracteres, por ejemplo, y una imagen puede ser 50 kB, es decir 50 000 bytes, que es como 25 veces cada imagen.
Como el código es un lenguaje muy estructurado, funciona genial no he visto que se invente nada o errores de bulto. Me ha parecido impecable. Como charlar con un profe a medida que le vas preguntando detalles más y más profundos
Openai ha liberado otras herramientas. Como por ejemplo whisper. Que es un transcriptor speech to text que funciona increíblemente bien y cuyo modelo sí está disponible.
Vamos que el problema parece que no es que los artículos sean racistas o escorados, sino que sea una máquina y no un humano el que produzca el sesgo
No es lo mismo tener que hacer un trabajo sobre Einstein y buscar en Google donde nació, su educación, sus logros, etc... que ir a la IA de turno y decirle "Escríbeme en 5000 palabras la vida y obra de Albert Einstein".
Que raro. Yo le he preguntado por el alcalde de varias ciudades y me ha contestado con que es una IA conversacional que no conoce esos datos y blablabla el texto estandar.
Tendrán que darle más importancia a los exámenes, si cabe, o a los trabajos presenciales (que igual ya lo hacen desde la aparición de "El rincón del vago" hace ya mucho tiempo)
Los niños es cierto que empieza la escuela reglada a los 7, pero antes ya van guardería parvulario, donde no tienen un programa fuerte pero lo tienen, y no hacen las imbecilidades que hacen en España de fichas y mierdas varias. Los padres no les enseñan a leer y a escribir, al menos no solo ellos, es aun elemento natural que ocurre por la lectura, leen un huevo y parte del otro. La educación en Finlandia es mucho mas relajada y natural.
Y lo de recoger a los niños y los turnos… lo normal es que los niños vayan solos al colegio, de una manera o de otra, y lo de los horarios es cierto que no son tan largos como en España, pero se suelen suplir con otras actividades, o tristemente muchos niños están solos en casa o en casa de amigos.
En primer lugar, aunque sea un modelo auto-supervisado, el problema del sobre-ajuste sigue existiendo, por eso hay que validar el modelo con un dataset distinto al de entrenamiento, sino te podría dar frases calcadas a los inputs con los que ha entrenado pero fallar en frases que no ha visto nunca. Lo que el conjunto de construcciones semánticas sea finito no tiene nada que ver. De hecho todos los espacios de soluciones con los que trabajan las redes neuronales son por definición finitos.
Sobre el tema que comentas de que el modelo se ha entrenado para escribir frases coherentes pero no verdaderas, si bien es cierto, no me preocupa demasiado ya que no lo veo un problema para nada irresoluble. Creo que añadiendo una nueva función de coste a la hora de entrenar, con un dataset lo suficientemente rico que evalúe la veracidad de las respuestas en lugar de su coherencia, se podría hacer un modelo mucho más robusto, aunque este segundo dataset, sí que tendría que ser supervisado.
Es como alguien que se hace pasar por cirujano y se nota que no lo es a la primera por la forma de hablar etc, en cambio uno mas convincente e incluso supiese operar un poco , seria mas peligroso.
Hay gente de todas la culturas o niveles culturales y que puede creerse que es veridico lo que dice o ser creible.
Tambien la IA puede ser entrenada para ser creible lo que no quiere decir sea fiable.
Y es un peligro que veo que se pueden hacer anuncios mas convincentes hasta directamente estafas a manipulacion de personas para enamorarlas para timos o sectas. Todavia queda un poco lejos, pero es un riesgo que hay que vigilar.
Si hay alguien que puede sacar dinero, puede invertir en ello aunque sea ilegal.
#32 Hace años que se hacen articulos con inteligencia artificial.
sinapsis-aom.blogspot.com/2011/11/el-periodista-electronico-noticias.h
En primero de informática a unos compañeros les hizo la práctica de "Introducción a la programación" un chaval ruso que estaba en tercero. Bueno, se la hizo a uno por un precio y ese la compratió con sun amigos. No entendían por qué el ruso había hecho las cosas como las había hecho. En el examen cayó algo muy parecido a lo de la práctica y todos ellos suspendienron. Para colmo es la típica asignatura que el 95% de la gente aprueba a la primera.
Los docentes tienen herramientas tales como:
* Obligar a citar las fuentes de la información en los trabajos. Toda afirmación que no esté citada o que no sea deducida penaliza.
* No poner trabajos que hacer en casa. Se trata de aprender, no de producir.
* Pedir que los estudiantes defiendan sus trabajos en voz alta delante de sus compañeros.
* Poner en el examen lo mismo que en alguno de los trabajos para casa.
Tengo un amigo español que es allí maestro y les da clase de historia de Finlandia en español a sus alumnos. Luego tienen horas extra de suomi para poder incorporarse lo antes que puedan a clases normales.
Me explico, alimentando a Copilot con repositoiros de Github estás dando a la IA código que funciona en una variedad de lenguajes. Alimentando GPT3 con vete tú a saber qué le estás dando datos buenos con datos ficticios e incluso datos creados maliciosamente.
Mi primera prueba con copilot fue pedirle una función a la que le pasas el número que corresponde según midi a una nota musical y te devuelve la frecuencua. Es interesante, pero el primer resultado de una búsqueda en un buscador hubiera sido bueno. La única ventaja es no tener que salir del IDE.
Por supesto es obligación del programador decidir si incorpora ese código o no, o adaptarlo para sus necesidades y responder debidamente si está bugueado. Al final si esto agiliza el tiempo de desarrollo, pero eso simplemente subirá el nivel de exigencia de las empresas.
Voy por partes con el resto:
Respecto al espacio de estados, creo que igual me expresé mal. El texto es mucho más rígido que otros campos como las imágenes, por poner un ejemplo. Dado un objeto específico, puedes obtener infinitas imágenes variando el ángulo de la foto, la superficie en donde está colocado, el color, etc. como es imposible tener todas las imágenes posibles, hay que generalizar muy bien para cuando le lleguen imágenes en situaciones que no ha visto. Pero el texto no tiene ese problema: se puede entrenar con todos los corpus de texto que haya escrito la humanidad, si estuvieran digitalizados. Y cualquier cosa que escriba una persona no va a diferir, sintácticamente, en demasía con respecto a esos textos.
Lo que comentas de usar un dataset distinto es para artículos de investigación. Cuando lo que intentas es crear un modelo lo más potente posible, y te da igual la publicación, usas todos los datos que puedas.
Estamos de acuerdo en que utilizar un dataset etiquetado puede resolver partes de los problemas de estos modelos. El problema es etiquetar ese dataset. Sería costosísimo, y muy difícil de mantener en el tiempo. Se podrían usar enciclopedias, o wikipedia, pero también contienen sesgos, y su información suele ser incompleta y, a veces, incorrecta. Pero sería un primer paso. El problema es que volvemos a lo de antes, corre el riesgo de fusilar contenido ajeno.
El otro dia probe a pasarle dos "Create Table" de postgresql, luego le dije con estas palabras : "Creame un trigger que inserte en la primera tabla cuando se actualice la segunda". Y me lo hizo. Acojonante.
No he vivido 6 años allí, y además yo iba a Helsinki por otras cosas de mi curro, pero como pasé un tiempo allí, un día me llevó una amiga a una escuela y me explicó cómo lo hacían allí, ah, también me dijo que no hay dos escuelas iguales en todo el país, que cada una es "autónoma" y crea su propio plan de estudios... Y que, por supuesto, no hay exámenes a nivel nacional de ningún tipo. Eso recuerdo, que ya hace años que estuve allí. Debes conocerlo mejor que yo, claro, has vivido allí años.
OFF TOPIC: Me pareció curioso que los niños comieran (pelaran) guisantes crudos a modo de chuches.
Musk, sí, está hablando de ti. Deja de vender humo. Primer aviso.
P.D: Buena entrevista!
Resumen de mis dos comentarios: Estoy de acuerdo que es una AGI pero a mí me sirve para lo que quiero y la voy a seguir intentando usar cuando se acabe el período de beta.
Stable Diffusion funciona en una resolución de 64x64 en una representación latente de KL-VAE/GAN f8. La imagen primero se comprime de 512x512x3 (rgb) a 64x64x4 de espacio latente y allí se lleva a cabo el entrenamiento, esto hace que sea necesita entrenar y usar solo una cascada de difusión lo que significa solo se requiere una sola U-Net y por lo tanto permite imágenes de alta resolución con muy pocos recursos.[1]
Dudo muchísimo que no requiera de más potencia de procesamiento una IA conversacional.Una IA conversacional requiere de más procesamiento que eso. Otra cosa es el tema de transmisión de datos. Ahí no hay duda ninguna. Pero parece ser que o bien no se ha optimizado GPT lo suficiente para que use menos memoria o bien no se puede.Por ejemplo stable diffusion puede ejecutarse con facilidad en un google colab (se necesitan ~4 GB del total de 12GB), mientras tanto, cosas que imitan a GPT como github.com/KoboldAI/KoboldAI-Client o github.com/BlinkDL/RWKV-LM necesitan ~14 GB y no es fácil ejecutarlas.
[1]: Re-redactado a partir chats en cirílico de grupos de IA. Supongo que towardsdatascience.com/what-are-stable-diffusion-models-and-why-are-th puede dar un poco más de info.
-OpenAI. Yo les llamo ClosedAI independientemente de Muskito. Mi argumento para usar sus servicio es que teniendo una cuenta si no gasto los 15 créditos que me dan gratis al mes están ahorrando energía conmigo. Supongo que es un argumento falaz. Lo que tengo claro es que no les voy a comprar nada y que su modelo cerrado es pernicioso.
-Tesla. Nunca tendré un tesla.
-Twitter. Estoy buscando activamente irme de twitter a otras plataformas. Mi uso principal es como feed de nuestros artículos.
-StarLink. Nunca lo usaré.
-Bitcoin. No invierto en eso. No sé cómo funciona y viendo todas las estafas que hay, está claro que no lo haré en un futuro próximo.
-Paypal. Cuando vuelva a tener móvil (ahora mismo no puedo entrar al no tener móvil) tengo previsto cerrarlo porque quieren cobrar a las cuentas inactivas. Hay muchas alternativas al parecer.
No sabía que lo había abandonado, me alegro.
Y sí, soy hater de Musk. Lo pongo en mi descripción de menéame así que no engaño a nadie. Me gané en su momento comentarios pasados a gris que ahora estarían en destacados porque antes para menéame Musk molaba. A mí siempre me ha parecido un megalomaníaco.
Aquí te propongo una posible revisión del texto:
"Para procesar textos, es posible utilizar herramientas que corrijan la gramática y el estilo. Lo probé el otro día y me sorprendió lo bien que entendía cómo convertir un texto normal en algo más ofensivo o suavizarlo.
Es una gran ayuda para mejorar la redacción. Especialmente en otros idiomas.
También veo que no sería muy complejo incorporarlo en tareas simples, como la primera línea de un centro de atención al cliente para abrir una incidencia o como servicio de orientación para ciertos trámites. Ya se están automatizando cosas similares y con esto se podrían mejorar bastante."
Sí, aquí te propongo una posible versión del texto en un tono más formal y académico:
"Para el procesamiento de textos, es posible utilizar herramientas que corrijan la gramática y el estilo. Recientemente tuve la oportunidad de probar una de estas herramientas y me sorprendió su capacidad para transformar un texto normal en algo más ofensivo o suavizarlo según fuera necesario.
Esta herramienta resulta de gran ayuda para mejorar la calidad de la redacción, especialmente en el caso de idiomas extranjeros.
Además, considero que su implementación en tareas simples, como la recepción de incidencias en un centro de atención al cliente o como servicio de orientación para ciertos trámites, no sería muy compleja. Ya existen soluciones automatizadas similares que podrían mejorarse significativamente con la incorporación de esta herramienta
Respecto a las versiones previas de gpt3 se inventa muchas menos cosas. Contexta muchas veces explicando que le falta información