ChatGPT, si te pregunto sobre las vulnerabilidades de la IA ¿qué respondes?

ChatGPT, si te pregunto sobre las vulnerabilidades de la IA ¿qué respondes?

Las vulnerabilidades de la IA se refieren a posibles debilidades de seguridad o fallos en los sistemas de inteligencia artificial que pueden ser explotados por los atacantes para causar daño u obtener acceso no autorizado a datos sensibles. Estas vulnerabilidades pueden manifestarse en diferentes formas dependiendo de la aplicación específica o del caso de uso del sistema de IA.

Algunos ejemplos comunes de vulnerabilidades de IA incluyen:

Ataques adversarios: donde un atacante manipula los datos de entrada de un sistema de IA para hacer que produzca una salida incorrecta o dañina.

Envenenamiento de datos: donde un atacante introduce datos maliciosos en el conjunto de datos de entrenamiento utilizado para entrenar un modelo de IA, con la intención de comprometer su precisión o rendimiento.

Robo de modelos: donde un atacante puede obtener una copia del modelo de IA, ya sea mediante ingeniería inversa o robándolo directamente, y usarlo para fines malintencionados.

Problemas de sesgo y equidad: donde el sistema de IA puede estar sesgado hacia ciertos grupos o individuos, resultando en un trato o resultados injustos.

Para abordar estas vulnerabilidades, es importante seguir las mejores prácticas para la seguridad de la IA, como implementar controles de acceso fuertes, realizar pruebas regulares de vulnerabilidades y garantizar que los modelos de IA se entrenen en conjuntos de datos diversos y representativos. Además, es crucial estar al día con las últimas investigaciones de seguridad y avances en la tecnología de seguridad de la IA.

Por ejemplo ¿en qué momento puedes cometer errores?

Como modelo de lenguaje de IA, puedo cometer errores si encuentro un lenguaje que está fuera de mis datos de entrenamiento o si malinterpreto el contexto o la intención detrás de una pregunta o afirmación. Si bien mi precisión es generalmente bastante alta, hay algunos escenarios en los que es posible que no proporcione la respuesta más precisa o adecuada.

Por ejemplo, si me haces una pregunta sobre un tema específico que está fuera de mis datos de entrenamiento o mi expertise, es posible que no pueda proporcionar una respuesta completa o precisa. Del mismo modo, si utilizas un lenguaje complejo o ambiguo, puedo malinterpretar tu significado y proporcionar una respuesta incorrecta.

También es importante tener en cuenta que, si bien puedo entender y generar lenguaje natural, no tengo el mismo nivel de conocimiento de sentido común o habilidades de razonamiento que los humanos. Esto a veces puede resultar en respuestas que pueden parecer sin sentido o irrelevantes en ciertos contextos.

Sin embargo, estoy siendo actualizado y entrenado continuamente con nuevos datos, por lo que mi precisión y capacidad para entender el lenguaje están siempre mejorando. Además, hago mi mejor esfuerzo para entender y responder a tus consultas, y siempre me esfuerzo por proporcionar respuestas útiles e informativas.

Las predicciones sobre IA de Bill Gates

Las predicciones sobre IA de Bill Gates

(21 de diciembre, 2023). Al reflexionar sobre 2023, Bill Gates lo recuerda como un año de hitos personales importantes, incluido convertirse en abuelo y apreciar el tiempo pasado con sus seres queridos. También fue el año en el que adoptó la inteligencia artificial con fines significativos, reconociendo su potencial para dar forma al futuro.

Para Gates, 2023 le mostró el mundo que «que heredará nuestra generación más joven». Y dice que pensó en «el impacto positivo que la IA puede tener en la accesibilidad a la educación y la salud mental, reforzando mi compromiso de utilizar la tecnología para abordar las desigualdades globales.»

Para el fundador de Microsoft el año que se va emula a los primeros días de internet que, en este caso, generará «cambios profundos» gracias a la tecnología que la IA Generativa trae a la mesa. Para Gates, esta ola de IA tendrá el mismo impacto que la llegada de la gran red misma, que cambió la historia del manejo de información en todo el planeta.

Otras predicciones que Gates hizo sobre la IA:

  • La IA tiene el potencial de brindar un tutor personalizado a cada estudiante del mundo.
  • Los países de altos ingresos como Estados Unidos están a entre 18 y 24 meses de alcanzar niveles significativos de uso de IA por parte de la población general.
  • Gates cree que la IA ayudará a reducir las desigualdades en todo el mundo al mejorar los resultados en salud, educación y otras áreas.

Concluye su reflexión de fin de año, ya más allá de la tecnología, de esta forma:

Por supuesto, la IA está lejos de ser la única característica definitoria de 2023. Millones de personas siguen experimentando un dolor insoportable como resultado de la guerra de Rusia contra Ucrania y después de la guerra en Etiopía. Mi corazón está destrozado por el continuo sufrimiento de israelíes y palestinos, así como por el pueblo de Sudán. Al mismo tiempo, cada vez más personas se ven obligadas a soportar dificultades como resultado de fenómenos meteorológicos extremos cada vez más frecuentes provocados por el cambio climático. Y las familias de todo el mundo siguen viéndose duramente afectadas por el aumento de la inflación y el lento crecimiento económico.
.

No hay duda de que estos son tiempos difíciles, pero sigo siendo optimista sobre el futuro. La velocidad de la innovación nunca ha sido tan rápida. Estamos logrando grandes avances en problemas difíciles (como el Alzheimer, la obesidad y la anemia falciforme) que mejorarán las vidas de millones de personas. Mi amigo el fallecido Hans Rosling solía decir que “las cosas pueden ir mal y mejorar”. Es un buen recordatorio de que el progreso no sólo es posible sino que ocurre todos los días.

___________________________________________
Imagen: MM con insumos de Pixabay.

Robots entre nosotros (1era parte)

Robots entre nosotros (1era parte)

(17 de noviembre, 2023). “Bienvenido hijo mío/ Bienvenido a la Máquina” (Pink Floyd)

Fernando Nunez-Noda, Director de Maquinamente

La actitud de la gente hacia la tecnología es paradójica, e injusta. Si no se piensa en ella, parece un regalo del cielo, un componente indispensable de la calidad de vida (la luz eléctrica, automóviles, los dispositivos conectados). Pero al darle un matiz moral la demonizamos y aquí los robots no se salvan. Le atribuimos una especie de vida paralela, generalmente encarnada en una máquina malévola que sonríe en la oscuridad.

Stanley Kubrick entendió muy bien este mito en un film legendario, 2001: una odisea espacial (1968) y dotó a HAL-9000, la computadora reflexiva y asesina, de un salón donde los pensamientos eran luces rojas que se encendía y apagaban. Cuando se le asocia una voluntad propia, la ciencia termina siendo un villano (el monstruo de Frankenstein o los replicantes de Blade Runner).

En el fondo esta tendencia revela que la tecnología es expresión directa de la voluntad humana. Es una extensión de nuestras propias capacidades físicas y mentales que evolucionan fuera del cuerpo. El reino animal nos lo muestra. El murciélago tiene un radar en su minúsculo cerebro, el ser humano lo construye y lanza satélites que hacen rebotar las ondas por todo el planeta. Al murciélago le toma millones de años, los humanos no tienen más remedio (guerras mundiales, ambición económica) que construirlo en apenas un siglo.

De acuerdo con esta lógica, un cerebro del tamaño de un balón de basquetbol podría esperarse dentro de cientos de años, pero actualmente no hay tiempo que perder y por eso hemos llegado a internet y sus 52.954 Gigabytes de tráfico por segundo, en todo el mundo, todo el tiempo.

La Fascinación Robótica

Hubo intentos en la antigüedad y eras más recientes. Los griegos antiguos ya habían soñado con autómatas, Leonardo Da Vinci diseñó uno en 1495 aunque, desafortunadamente, no pudo construirlo.

El primer antecedente de una computadora moderna fue la máquina analítica del británico Charles Babbage, a mediados del siglo XIX. Una mujer, Augusta Ada Byron hija del poeta Lord Byron, desarrolló el “software”. Ambos son pioneros en la moderna concepción de una máquina de cálculo automática.

Por esa época se inventó el telégrafo, la versión más minimalista de internet. Al principio con alambres y luego también por el aire. En 1889 el estadounidense Herman Hollerith construyó la primera computadora electromecánica: un sistema de tabulación con tarjetas perforadas que tuvo vigencia hasta mediados del siglo XX. La empresa de Hollerith, luego de fusionarse con otras, llegó a ser IBM.

En el siglo XX se cristalizó todo. El checoslovaco Karel Čapek usó por primera vez el término “robot” en una obra teatral. Se construyó ENIAC, la primera computadora electrónica, para el Ejército de EEUU. Más tarde Claude Shannon, un ingeniero de IT&T, desarrolló el “bit” como unidad de información digital compuesta exclusivamente de ceros y unos en incontables combinaciones.

El evento pivotal vino con Allan Turing, cuya experiencia fue llevada a la pantalla en el film The Imitation Game (2014) con Benedict Cumberbatch. En la tercera década del siglo XX Turing desarrolló las ciencias de la computación con metodologías y fórmulas para computar los números, de forma que produjesen resultados bajo hardware y software.

Turing llegó a preguntarse si los cerebros electrónicos podrían, algún día, ser inteligentes. Formuló su célebre «prueba de Turing», consistente en un «juego de imitación» por el cual la máquina «engaña» al participante y le hace pensar que sus respuestas las elabora un humano. Éste hacía preguntas directas y unívocas a dos dispositivos, uno automático y otro manejado por humanos. Quien participa de la prueba no sabe cuál es cuál.

Se prueba así hasta qué punto la máquina es capaz de responder sin que sea posible deducir si es una máquina o un humano.

Otro personaje interesante fue el matemático Norbert Wiener, quien publicó en 1948 el libro Cibernética en el que describe con las mismas ecuaciones a los seres vivos, a las máquinas y –en general- a los sistemas autorregulables.

Para la cibernética los procesos son informacionales. Wiener le dio primacía al concepto de “retroalimentación” ( feedback), que describe un ciclo de información. Una computadora no está viva, ni es inteligente, pero es un dispositivo autorregulable que recibe información del ambiente y modifica su conducta en consecuencia.

Los robots, pues, imitan la vida humana: son autorregulables, reciben, procesan y generan información, tienen ciclos de vida y, con la debida programación, alcanzan importantes niveles de inteligencia artificial y autonomía.

 

 

No todos los Robots son Creados Iguales

Los robots se agrupan en tres grandes categorías: los domésticos, los industriales y los humanoides. Uno siempre habla de robots como seres antropomórficos, tipo el monstruo de Frankenstein, o más cibernéticos como el Bicentennial Man, del film que protagonizó Robin Williams en 1999.

Pero los hay de muchos tipos. Alexa de Amazon o Google Home son asistentes automatizados, si se quiere buenos conversadores, pero no se desplazan o atenazan objetos. En Home Depot, por ejemplo, hay termostatos WiFi manejados desde apps en iOx y en Android. Los dispositivos están conectado 24×7 a la red y tienen direcciones propias, de forma que en segundos reciben y procesan nuestras instrucciones: subir o bajar temperatura, apagarse, etc. Igual con luces, puertas de garaje, lavaplatos, etc.

Son robot y minirobots domésticos, en nuestros propios hogares, con nuestros objetos cotidianos. Según Statista 23% de los hogares en EEUU. estarán bajo el segmento de “control y conectividad”, léase: robótica en la casa. Para 2023 se estima una penetración mayor de 50%.

Hasta Disney, tan alejado de la polémica tanto como pueda, muestra en Smart House de 1999 una casa con personalidad maternal que pronto comienza a tomar las cosas en sus propias manos y el resultado es un caos.

Es decir, siempre subyace el espíritu de Frankenstein o del Hermano Mayor de George Orwell: las preocupaciones como la invasión de la privacidad, el control gubernamental y la dependencia excesiva en lo automatizado. Y peor aún: hacking. Si alguien penetra en el sistema de control de una casa inteligente puede abrir puertas, inhabilitar alarmas y ni qué decir de un bromista que provoque desventuras a los pobres residentes.

Por los momentos lo peor que puede hacer mi tostadora es quemarme el pan (y no voluntariamente).

En el mundo industrial o científico, los robots “articulados” son aquellos que imitan extremidades y coyunturas humanas, pero no pueden desplazarse por sí solos. Casi siempre están fijos, para ensamblar automóviles o apoyar la exploración submarina; o bien sobre ruedas para explorar un planeta como Marte. Son poco habladores.

Los ‘cartesianos’ tienen extremidades con pinceles, cortadoras u otros adminículos que van en sentido de los ejes X, Y y Z. es decir, hacia arriba-abajo, derecha-izquierda o frente-atrás. Pueden combinarse con los anteriores e imitan los brazos y manos para diversas tareas de precisión. Por ejemplo, con cortadores y hojillas sirven para modelar objetos 3D.

Hay muchas otras variedades: SCARA, teleoperados (como los drones) o de ‘augmenting’ (manejados por los humanos como extensiones de brazos o manos, por ejemplo, para desactivar explosivos a distancia.)

En un artículo pasado comenté: “En EEUU. para 2030 cerca de la mitad de los trabajos [de manufactura y servicios] podría estar en las metálicas manos de autómatas y computadoras. Los expertos advierten que la sociedad tiene que tomar medidas urgentes y contundentes en áreas como la educación (código en las escuelas, por ejemplo); seguridad social, creación de empleos no amenazados por la automatización y aspectos éticos como, aunque no lo crea, las tres leyes de la robótica de Isaac Asimov.”

(Link a la segunda parte).

___________________________________________
Imagen: MM.

Inteligencia Artificial reta al pensamiento creativo

Inteligencia Artificial reta al pensamiento creativo

(8 de noviembre, 2023. Fuente: quepasaenvenezuela.org). En un mundo en constante evolución, donde la tecnología avanza a pasos agigantados, la Inteligencia Artificial (IA) surge como una herramienta fundamental en múltiples esferas, incluida la creatividad.

El debate sobre si esta tecnología va a reemplazar o no los puestos de trabajo, va quedando a un lado, mientras empresas y profesionales se preparan para sacar el mayor provecho, utilizándola para impulsar y optimizar sus procesos creativos.

“La cuestión ya no gira en torno a si las IAs desplazarán o no al trabajo humano, sino a cómo podemos entablar una colaboración enriquecedora con ellas para simplificar nuestras vidas. Un paso inicial para lograr esta sinergia es asegurarnos de que los clientes tengan una visión clara de sus objetivos. La IA no solo contribuye a definir estos objetivos con mayor precisión, sino también aporta ideas innovadoras que amplían los horizontes tradicionales”, comentó Ana Lopera, Senior Account Manager – L3 de PGD.

La IA se ha convertido en una herramienta para profesionales creativos, brindándoles la capacidad de generar contenido de alta calidad de manera eficiente. Por ejemplo, en lo que respecta a la edición de imágenes y videos, los programas de edición asistida por IA pueden automatizar tareas repetitivas, como el recorte y la corrección de color. Esta automatización no solo ahorra tiempo a los creativos, sino que también les permite concentrarse en otros aspectos conceptuales de su trabajo.

Adicional, en lo referente a calidad de audio en la postproducción de contenido, es una gran aliada para reducir el ruido, mejorar la claridad de la voz, corregir desviaciones de tono y ritmo, restaurar grabaciones antiguas, eliminar palabras o sonidos no deseados, y mejorar la calidad de la transmisión de audio con solo un clic.

Según los expertos de PGD, el gran reto al trabajar con IA en el ámbito creativo es la definición de autoría y creatividad en este contexto. ¿Quién es el autor cuando la IA desempeña un papel significativo en la creación? “Estamos comprometidos en explorar y establecer directrices sólidas para abordar este tema, considerando ejemplos de derechos de autor, políticas empresariales y restricciones necesarias para equilibrar el uso de las IA. Aún hay mucho por analizar y discutir, por ejemplo, como asegurar que hizo el creador y qué esta tecnología.”, explicó Francisco Rodríguez, Senior Motion Designer-Post Production de PGD.

En sus primeros días, muchas soluciones de IA eran de acceso gratuito, pero a medida que su potencial se materializó, el panorama cambió. Actualmente, la mayoría de las soluciones competentes en la industria son de pago. Esto ha generado brechas en el acceso y en la utilización efectiva de estas tecnologías.

Riesgos actuales y desafíos pendientes

A pesar de que la colaboración con IAs es prometedora, no está exenta de desafíos como: dependencia excesiva, pérdida de originalidad y la disminución de la diversidad creativa. Además, la evolución constante de la tecnología y la falta de regulación presentan dificultades adicionales para los creativos y las empresas.

El uso adecuado y equitativo de la inteligencia artificial radica en la ética profesional de cada individuo, su habilidad para mantenerse informado sobre cuándo y cómo integrar la inteligencia artificial en el proceso creativo, y aprender a utilizarla de manera responsable y equilibrada. La IA debe considerarse una herramienta complementaria, sin caer en la dependencia absoluta de ella. Es necesario recordar que, por ahora, la IA carece de intencionalidad, comprensión humana y emociones, por lo que puede funcionar como una fuente de inspiración y guía, más no debería reemplazar la voz y capacidad de expresión de los profesionales creativos.

“Aún estamos en zona desconocida en un trabajo cooperativo con las IAs, brecha de acceso y cuidado de su uso ante un territorio desconocido, por lo que los profesionales advierten que hay que adentrarse con cautela, respeto y sobre todo buenas prácticas. En PGD visualizamos una realidad donde la IA coexiste con la creatividad humana, impulsando la innovación y abriendo nuevas fronteras”, agregó Luis Escalante, Delivery Director, Tech de PGD.

___________________________________________
Imagen: MM.

Podcast: LA IA hace apenas siete meses

Podcast: LA IA hace apenas siete meses

(2 de noviembre, 2023, podcast). En marzo de este año Jesús M. Rodríguez, periodista, hombre de medios y Fernando Nunez-Noda, editor de MaquinaMente, conversaron en su ya cesado podcast «Del 305 al 310» sobre inteligencia artificial.

Pero esa conversación ocurrió y aquí les dejamos el podcast completo. Una cita de la presentación:

«Algoritmos, robótica, ChatGPT, inteligencia artificial… quien crea que esto pertenece a la ciencia-ficción y a un futuro relativamente lejano… que lo piense dos veces. Jesús y Fernando hablan del estado actual de tal inteligencia, la integración persona-máquina, los servicios que están robotizados o por estarlo… un mundo en ciernes cuyas amenazas (que las hay) y oportunidades (muchas) cambiarán sin duda el funcionamiento de la sociedad.

«Es un podcast que hacemos bien en escuchar, para estar preparados ante lo inevitable y aprovecharlo.»

Que lo disfruten:

___________________________________________
Imagen: Pixabay.

Humor: Se casan el ChatGPT y el Bard de Google

Humor: Se casan el ChatGPT y el Bard de Google

(26 de octubre, 2023 – Fernando Nunez-Noda). Hay jologorio en la comunidad de Inteligencia Artificial (IA) por el sorpresivo anuncio de una unión civil y religiosa entre dos bellezas de la IA: el ChatGPT, de OpenAI + Microsoft, y el Bard de Google. En esta crónica hemos recopilado opiniones de diversas fuentes sobre este evento:

BILL GATES (fundador de Microsoft): No estoy contento con este casamiento. Los padres casi nunca queremos al novio. Eso es como que Hunter Biden se case con Maria Vladimirovna, la hija de Putin. Eso no pega. Google nos ha quitado el liderazgo en todo: sistemas operativos aplicaciones, buscadores y en un poco de otras cosas, ya les digo cuáles… voy a buscar en Google ¡digo! en Bing (así se llama nuestro buscador ¿verdad?).

SERGEI BIN Y LARRY PAGE (fundadores de Google): Hemos hecho una Google Declaración conjunta en la que damos Google Felicitaciones a los novios. Obviamente que reciban nuestras Google Bendiciones, Google Regalos y, por supuesto, esperamos unos preciosos Google Nietos. A Gates le mandamos un Google Tomatutomate.

VLADIMIR PUTIN: A pesar de la sangrienta campaña que Occidente ha emprendido contra Rusia, por el sagrado derecho a recuperar territorios nuestros que antes eran de los ucranianos, le damos una conciliatoria felicitación por esta unión. Hemos enviado un grupo de espí… digo, embajadores de buena voluntad para que se rob… digo, alaben el código que compone estos maravillosos seres cibernéticos. Por favor dénle acceso que van en misión de buena voluntad.

MARK ZUCKERBERG: Saludos a los novios, pero mi estrategia es diferente. Yo creo espacios en los que millones de personas vierten su mucha o poca inteligencia. Mis algoritmos detectan las más brillantes y las esconden ¿por qué? Porque no las voy a exponer públicamente para que se las roben otros, yo tomo ese tesoro y tengo una máquina de inteligencia artificial (IA) compuesta por inteligencia natural (IN) recopilada por inteligencia artificial para el disfrute de la inteligencia brutal. ¿Me entienden? Si entienden son inteligentes naturales, si no, les publico lo que digan.

DONALD TRUMP: Yo inventé la inteligencia artificial, como saben, nada en mí es natural: ni mi tono naranja, ni mi copete de viento solar, ni los votos que quise empujarle a las elecciones pasadas que ganó Bid… ¡digo!, ni buena parte de mi fortuna… en fin ¿cómo no va a ser mi inteligencia artificial? ¡MAGA!

EL ROBOT DE PERDIDOS EN EL ESPACIO: Qué ChatGPT y Bard… puras copias de mí. Ya casi nadie me recuerda, pero yo fui pionero de la IA, perdido y todo, la ejercí. Decía chistes, en un capítulo me emborraché, en otro canté serenatas… a ver, a ver, ¿cuándo hice algo inteligente? Oh, creo que mejor lo dejamos hasta aquí y solo les digo que la culpa fue del Dr. Smith.

XIN JIN PING: Nosotros no nos damos mala vida, toda inteligencia (natural o artificial; de genios o de brutos) la imitamos pero, eso sí, a 40% del precio de occidente. Ya estamos creando nuestras dos máquinas de IA, una es el ChatGPChi y el coBARD, nada que ver con los de Microsoft, OpenAI y Google.

NICOLÁS MADURO: La revolución bonita no necesita inteligencia artificial, lo nuestro es natural y orgánico: Generamos miles de millones de dólares sin producir nada que dé valor agregado al país; se «pierden» 22 mil millones de dólares y los encuentra el que los perdió (obviamente lo reparte entre los camaradas). Tenemos el aparato delictivo-administrativo más grande del mundo y, a la vez, el sistema judicial que los ignora. ¿Qué Chat ni que Bard? Nos vamos a un Bar, sí, a beber Chat-paña de la buena.

ANDRÉS LÓPEZ OBRADOR: Esté… porque bueno como entonces, en realidad, la inteligencia es muy… y de paso tan… es que a veces tenemos artificios… digamos, eso mismo, eso mismo, yo creo y lo creo porque lo creo que… es artificial porque eso mismo, es lo que es y…

ELON MUSK: Yo de inteligencia no quiero hablar mucho hasta comprobar si la ejercí o la perdí al comprar Twitter. En todo caso, yo estoy concentrado en la inteligencia espacial y por eso lanzo y lanzo cohetes (eso sí, espaciados entre sí). Unos para misiones, otros para reparar los cohetes misioneros, otros para hacer de las repaciones una misión, otros para destruir a los misioneros que no cumplieron su misión… Oh, mejor me concentro en Twitter.

___________________________________________

Verified by MonsterInsights