240: La privacidad y ChatGPT

En el episodio 240 de Tecnocracia hablamos de los rumores de los Beats Studio Buds+ y el nuevo Google Pixel Fold. También analizamos los audifonos de JBL Tour Pro 2. Y entramos en detalle en los mensajes de peligro sobre la inteligencia artificial y la privacidad de ChatGPT.

Links

• Beats Studio Buds+ leak on Amazon with a May 18th release date | Engadget
• JBL Tour Pro 2 Buds
• Microsoft Planning Privacy-Focused Version of ChatGPT as Apple AI Efforts Flounder – MacRumors
• Google accounts can now be passwordless
• ‘The Godfather of A.I.’ Leaves Google and Warns of Danger Ahead
• Google makes the Pixel Fold official

Transcripción Automática

Continuando un poquito el tema de la semana pasada, que hablamos de estos Airpods con la pantalla afuera,

no sé si viste este link que te compartí, los JBL Tour Pro 2.

Sí, justo era lo que comentábamos, pero de la marca JBL.

Sí, como que ya salieron al mercado y los reviews son como listo, esta pantalla funciona,

te deja modificar como algunos settings, te deja cambiar de canción, te deja cambiar de música,

modificar como algunos settings, te deja cambiar la canción, te deja prender unas cosas y apagar

otras, te muestra el estado de batería, de conexión, etcétera. Pero no sabes como lo que decíamos,

no sabes cuál es el uso real, como que funciona, pero sí, no sé, vamos a ver qué tan raro es el de

Apple, pero ese rumor que la verdad no lo veo tanto. Pero simplemente quería mencionar eso,

como que ya hay una versión de esto en el mercado. Sí, justamente había una review en

Engadget que hablaban sobre estos audífonos y mencionan que la utilidad de esa pantalla es

cuestionable. Como comentamos ya la semana pasada, qué uso podría tener esta pantalla. Básicamente

estos JBL no tienen ningún tipo de memoria interna. Entonces la pantalla simplemente es

para ajustar el ecualizador, para poner el modo transparencia, el modo cancelación de sonido,

para ver el estado de la batería, la hora, la conexión… pero así si lo piensas bien todo

eso se puede ver en tu celular o en la computadora que estás utilizando. Entonces cuál es el uso?

es el tenerlo a mano. Pero tenerlo a mano quiere decir que tienes que tener esa carcasa contigo.

Entonces, es una tercera parte. Están los audífonos, el teléfono computadora y la carcasa,

la funda. Entonces, ahí es como… En vez de simplificar las cosas, yo creo que incluso las

puede complicar un poco. Pero bueno, se ve interesante. Los comentarios decían que tiene

seis micrófonos creo pero tampoco es muy bueno para las llamadas. La cancelación de sonido

tampoco es muy buena. Creo que tiene hasta 36 horas de batería. No recuerdo bien,

pero bueno, así está bien. Pero tampoco es, digamos, no resuelve ningún problema que teníamos

antes. Y haciéndole seguimiento a otro tema más que teníamos hace… bueno, o seguimos mejor en

la tanda de audífonos. Ahí vimos creo que el, no sé, el primer producto que se viene de Apple,

que tal vez se dice que va a salir ahorita en mayo, y son estos audífonos StudioBuds Plus.

Y aquí, no sé, la parte que es obviamente por ahora es un rumor, no hay detalles. Decían que

van a costar 170 dólares, tienen cancelación activa de ruidos si bien recuerdo, y lo más

interesante es que le tomaron o dicen que le van a tomar algo del playbook a Nothing,

este diseño transparente de la carcasa que me ha parecido bastante interesante.

Sí, la verdad es que la parte de esa de carcasa transparente, tengo entendido que también

se va a vender en dos colores más para quien no le gusta esto de que sea transparente.

Pero bueno, se ven interesantes.

Una vez más los StudioBuds se cargan con puerto USB-C,

que para mí eso es una ventaja.

Funcionan con todo el sistema de Apple también.

Ofrecen hasta 36 horas con la funda.

comparado con el modelo anterior que eran 24 horas.

La verdad es que bueno, vamos a ver

cuando se salga oficialmente.

Veremos todos los detalles, pero bueno, esto es lo que se ha filtrado por ahora.

Es también para la gente que le gusta ese sonido de beats,

que tienen como un sonido

muy especial con los bajos y todo esto, pues la verdad se ve interesante.

Y yo, la verdad, en muchos reviews he escuchado que a la gente le encantan los beats, sin importar si estás en el mundo Android o iOS.

A la gente le gustan mucho los…

A la gente le gustan mucho esos sonidos y Apple ha diseñado estos especialmente para que no sean tan dependientes con el iPhone como son los AirPods.

Entonces es este producto que Apple le puede vender a alguien de que, sin importar en qué ecosistema están.

Sí, es interesante que Apple todavía tiene esta gama bits que compró la compañía y que es multiplataforma.

Digamos, ya no son tan exclusivos como los Airpods y que lo han seguido manteniendo.

Porque yo siempre pensé que una vez adquirido bits, pues lo desmantelaría y se quedaría con la tecnología.

Pero bueno, han mantenido ahí esos bits.

Pero y ahora sí, siguiendo un tema que hablamos hace bastante, que fue la parte de la Intel del chat GPT y todo eso.

No sé si has visto las noticias recientes que hay compañías que han tenido que

vetar a sus empleados de utilizar el chat GPT.

Sí, sí. De hecho,

mi compañía nos ha mandado un mensaje para que la gente no utilice el chat GPT

para desarrollo o para ninguna cosa.

Si es algo que está está pasando y a las compañías están poniendo

un está poniendo dando notificaciones para que esto no ocurra no porque el

problema principal es como bien sabemos pues se podrían filtrar secretos de

empresas por ejemplo si hay la parte que todavía no genera mucha claridad y que

y que openea y no ha implementado v pues de una forma transparente es cuando uno

interactúa con él con esta con el chat uno sabe que sepa que se han hecho

con tu información, con lo que estás escribiendo,

no sabes si está simplemente como utilizan los que ya

conocen este asistente o esta inteligencia artificial y lo

utilizan para responder tu pregunta,

o si después basado en lo que os preguntaste,

eso lo aprende también.

Y puedes estarle filtrando información confidencial en

ese paso.

Hay unos rumores que dicen que vas a poder cambiar los

de privacidad y puedo decir que si utilizan, que usen y que no utilizan para el mejoramiento,

las mejoras de inteligencia artificial. Pero sí, con todos esos problemas, Samsung se ha especializado

en decir que no deberían usar el chat GPT y Microsoft está acá pensando una versión que básicamente

sacan como una instancia en sus servidores de Azure,

vos como compañía o algo, utilizas esto,

y esta instancia no pasa información al modelo principal,

sino que es un utilizado que el modelo como está en ese instante,

lo utiliza para responder los queries que le hagas,

pero no entrena al modelo con información nueva.

Entonces es una forma de meterle como un firewall

firewall entre el modelo principal que aprende y que se sigue mejorando y entre lo que está

con lo que interactúa el usuario.

Entonces Microsoft está pensando eso y si se está intentando hacer eso completamente

privado es porque, ahora sí, están esas limitantes de OpenAI ahorita y entiendo perfectamente.

Yo como, si yo estuviera en una compañía en ese momento lo utilizaría más que todo

para cosas genéricas que van a poder ser vistas en la luz pública.

Si estás diseñando como que trabajando en un contenido de la compañía que igual no

va a ver el público, es diferente al source code de tu software.

Sí, yo creo que esto Microsoft pues como buena empresa que trabaja para las empresas

con herramientas como Office, ha visto que esto está siendo un problema.

Ya lo estamos viendo en grandes empresas, donde se está empezando a mandar correos

a los empleados para que no se utilicen estas herramientas en ningún caso de trabajo.

Y aquí pues Microsoft está, es una buena estrategia creo yo, que está adoptando.

Bueno, sigamos con, hablando de AI, sigamos con la parte de AI.

Y aquí es como esta persona que es el inventor o de los primeros que empezaron a trabajar en

inteligencia artificial se va de Google y aquí no es que lo hayan sacado de Google,

no es que Google está haciendo algo mal en cuanto a inteligencia artificial,

solo que él dice que si él empieza a proteger o a no proteger el estado de la

inteligencia artificial, si sigue atado a Google pueden pensar que sea por otros

intereses y no por su opinión profesional. Entonces se ha salido de

Google para poder tener esta voz permanente, esa voz como ayudando a

a guiar la evolución de la parte de inteligencia artificial y cabe notar que

él no fue uno de los que firmó esa carta de la pausa de seis meses que pidieron

como gente como Elon Musk. Sí, Hinton, que es uno de los

pioneros de los padres de la inteligencia artificial,

tiene ya 75 años, que supongo que ya se salió de Google también como parte de

su retiro probablemente, pero ha comentado ahora que ya es libre de

ninguna compañía, puede comentar libremente ya y ha comentado de los

peligros que puede tener estos sistemas de inteligencia artificial en los que

podemos… se está confiando mucho y a qué problemas se pueden llegar a tener en el

futuro. Comenta por ejemplo, aparte de lo que ya se ha hablado muchas veces, que

podría eliminar empleos, sobre todo. También comenta de los peligros de

utilizar estos sistemas automáticos para partes como pueden ser defensa.

Y cómo estas inteligencias artificiales pueden cobrar

su propia vida, por decirlo de alguna manera. Y cómo pueden evaluar situaciones de

una manera a veces incluso inesperada, que puede llegar a ser peligrosa.

Y es interesante que este investigador, que ha sido como el padre de todo esto,

uno de los padres de esto, pues que no ve esta inteligencia artificial como algo

que debería utilizarse o como que debería confiarse 100%, digamos.

Y advierte esos peligros de confiar 100% plenamente en este tipo de

tecnología. Es una opinión y yo creo que ahí tiene unos puntos bastante buenos y

creo que esta inteligencia artificial, de hecho, yo creo que esto es una de las

revoluciones más grandes que estamos teniendo desde que empezó, yo diría, no

sé si decir la computación, la parte de computadores y ordenadores, o la parte de

internet, pero esto es una revolución y estamos viendo que está avanzando tan

rápido, sobre todo poco después del COVID. Esto está avanzando tan rápido que incluso puede ser,

no sabemos a dónde nos va a llevar, pero bueno, esto es una nueva revolución.

Sí, y ahí algo que piden y que es donde he visto, bueno, lo que he logrado ver ahorita,

está teniendo el consenso en esto, es que están pidiendo alguna forma de, muchas veces,

estos modelos de inteligencia artificial son como una caja negra, como que vos le tiras

mucha información para que aprenda, pero no tienes ni idea qué está pasando adentro.

Entonces lo que están pidiendo, como alguna gente dice que deberían pararlo del todo,

otra gente dice que no sé, no de la pausa de seis meses, pero lo que sí he visto como un

consenso por ahora es como una forma de auditar a estos modelos, que haya una

un mecanismo de que público, de que puedan ir a tomar el modelo de OpenAI

y hacerle algunos tipos de pruebas para asegurarse que no va,

que no genera, no significa un riesgo existencial o lo que sea, pero sí,

es por ahora este es el mecanismo que he visto que están como resaltando para mí

tiene no sé para mí tiene sentido como toca ver cómo lo pueden lo pueden poner

en ejecución pero es una forma de aunque no se despegue inteligente

artificial se vuelve se pone esas pruebas de autoritaria tal vez se vuelve

más inteligente y aprende a evadir las entonces sí sí estamos viendo si te

¿Te acuerdas de la película de 2001 Odisea del espacio? Esta película de Kubrick creo que es,

en el que se creo que se filmó en los 60 o los 70, donde hay una computadora que básicamente,

inteligencia artificial, que lo que hace es, bueno, se queda con todo lo que es el control

de la nave. Y esto parecía muy futurista, pero cada vez empieza a verse más realista.

¿no? Sí, sí, sí. Vamos a ver qué pasa, pero el impacto que esto va a tener en…

Yo no sé. Como que yo creo todavía que esto es una etapa muy temprana en donde se

vuelve una mini ayuda, pero eventualmente eso puede ir como cambiando

profesiones por completo. Entonces, sí, estamos en un momento de cambio. Y

siguiendo en la tendencia acá con cosas de Google, la semana pasada te mencioné

lo del pixel folder que se rumoraba ya google o preanuncio hizo el preanuncio

del anuncio y ya nos muestran las fotos oficiales

y pues ahorita en esta semana el cuando es el miércoles el miércoles

vamos a tener eso entonces la otra semana tenemos tema sin tener que estar

luchando, buscando de qué hablar, pero…

Y sí, se ve muy bien. A mí la parte de afuera me parece que está súper bien.

La parte interna me parece que tiene los bordes un poquito anchos

en comparación a lo que ya está llegando a ocupa de Samsung.

Pero me parece que se va a hacer un buen comienzo y como dijimos la vez pasada,

quiero esperar a ver qué tanto dicen en el I/O de la integración con el software.

Sí, las fotos que primero se habían filtrado y creo que Google ya dijo que no querían depender de esas filtraciones y mostraron esas fotos oficiales.

Tampoco dieron mucho o ningún detalle. Sabemos que el miércoles vamos a tener todos los detalles.

El diseño es un poco más delgado creo que el Samsung Galaxy Fold.

o parece de las fotos. La pantalla interior como dices tiene unos bordes arriba y abajo

un poco anchos pero que ahí en esos bordes se acomoda la cámara de selfie en vez de

tener un agujerito. Hay gente que dice que eso es un poco ir atrás pero bueno yo lo

veo todavía bastante razonable esos bordes y como dices tú lo más importante es ver

lo que Google está haciendo al sistema operativo Android para utilizar estas pantallas grandes

en esos teléfonos doblables porque creo que eso ha sido el problema más grande que Samsung o Huawei

han tenido que lidiar, que es cómo hacer que estas pantallas sirvan para algo más que simplemente

tener la aplicación en tamaño grande. Y ahí es donde tenemos muchas esperanzas. No sé lo que nos

va a contar este miércoles, pero bueno, ahí veremos. Sí, este miércoles tenemos más información y la

otra semana cubriremos esto por completo. Y aquí la última, que también te vi posteando,

como que no vas a conocer más todo en los Twitter. Google ya… esto del PASCY que hablamos,

cuando lo de los PASCY fue en el WWDC el año pasado. Hace casi un año hablamos de los PASCY

de Apple, que es esta forma de volver las claves obsoletas. Y Google ha anunciado que ya se puede

ya va a tener esta integración. No sé si vos ya cambiaste. ¿Cómo fue el proceso?

A ver, te explico. Creo que fue el miércoles, Google anunció esto. El proceso es bastante

sencillo. Tienes que estar en tu cuenta de Google y te ofrece la opción de utilizar

este passkey y lo que hace es básicamente es con el iPhone en mi caso escanearse un

código QR que aparece en pantalla y luego utiliza el Face ID o el tipo que tenga de

autentificación biométrica y ahí se genera ese vínculo.

Y básicamente una vez hecho esto, cada vez que quieres entrar a la cuenta, te aparece

el código QR que lees con el teléfono y el teléfono te pide la autentificación por

Face ID, por ejemplo, en mi caso.

Y una vez te autentifica, el SES bloquea.

Entras a tu cuenta.

Lo único que… el único problema que he visto esta semana, que no sé si es que sea

algo que estoy haciendo equivocado. Pero bueno, esto lo utilicé en mi

ordenador de Windows del trabajo. Y es que cada vez que cerraba el navegador,

cuando volvía a abrir el navegador, me volvía otra vez a pedir que entrase a la

cuenta. Es decir, cada vez que cerraba el navegador, me sacaba de la cuenta. Me

hacía un logout. Y cada vez que lo abría, tenía que volver otra vez a entrar a la

cuenta utilizando el mismo sistema de leer el QR en la pantalla. Entonces, no sé

si esto es una parte del sistema que es así o si es que hay alguna opción para mantener

la cuenta abierta. Pero bueno, por ahora es la única pega que así que me he topado.

Pero la verdad es que bueno, estaba buscando también esta semana, estuve buscando si había

algún otro servicio que ha empezado a utilizar estos passkey, pero por ahora de los servicios

así grandes que utilizo, ni un otro servicio lo tiene, solo Google.

Y no sé si este problema que tenía yo es algo común o es parte del diseño

de estos PASCY, pero bueno, ahí ya he empezado a utilizarlo.

Ahí sí, ahí, ahí es justo esa era mi duda, como listo, me parece chévere que

tengas que usar la clave, pero si tú vas a sacar el celular cada vez para meterte

como se vuelve, no sé, creo que prefiero usar un password manager en ese caso.

Mi pregunta es, ¿qué navegador estás usando?

¿Será que nos están guardando de alguna manera como que el cookie o lo que sea que diga que ya estás logged in?

Pues, estaba utilizando Microsoft Edge en ese caso, en el caso de mi computadora de trabajo.

Pero no sé si es alguna de las opciones o algo.

Pero bueno, tengo que investigar ahí un poco más esta semana.

Pero por lo menos ya lo he puesto en uso.

Una vez lo tienes en uso, tampoco no tienes por qué quitar las otras maneras de autentificar.

Si tienes autentificación en dos pasos, puedes mantenerla también.

Y de hecho, fue eso lo que hice.

Entré con mi cuenta con la autentificación de dos pasos para y ahí sí que se quedó

ya conectado. Pero no sé la parte del passkey.

Cuál es el, digamos, a lo mejor en los ajustes, algo hay que configurar.

Pero bueno, ahí investigaré un poco más.

Y no sé, interesante, pero sí creo que toca ver cuál es el balance entre sacar el celular

todas las veces que vas a hacer login versus…

Pero sí, eso no debería pasar.

Es como que hoy en día no te piden la clave cada vez que entras.

Entonces no debería estar pasando.

Sí, esto es algo que hay que investigar un poco mejor

cómo está funcionando y si es algo del navegador

o si es un problema o algo de esta primera versión, digamos, de PASC.

Sí, yo por ahora no tengo ninguna.

Yo sé que One Password, el password manager que estoy usando,

también estaban integrando esa funcionalidad para hacer como la aplicación de interfaz para eso,

pero sí, por ahora todavía no he estrenado esa función. Pero bueno,

eso ha sido el episodio por hoy. Aquí me despido, Daniel Doron Soro.

Y aquí Guillermo Ferrero.