El día 22 de noviembre la Cátedra de Telefónica sobre «Cognitive IoT» de las Universidades Politècnica de Catalunya y Pompeu Fabra organizaron un encuentro de expertos para debatir sobre la evolución de los perfiles profesionales en ingenierías. El impacto de tecnologías emergentes como las de ciberseguridad y ciencia de datos, impulsadas más recientemente por la inteligencia artificial generativa obliga a una profunda reflexión en cuanto a su impacto en los perfiles profesionales demandados por el sector. La sesión, en formato Ágora expertos, ha reunido una docena de profesionales de diferentes sectores así como profesores, estudiantes y responsables de la UPC, UPF y UNIZAR para debatir el futuro de los perfiles profesionales en el sector de las TIC.

Tuvieron la amabilidad de invitarme como director de la Cátedra de Ciberseguridad, porque era uno de los temas que salían en los distintos análisis de tendencias de búsqueda de personas por parte de los empleadores y estuvimos charlando un ratito por allá.

Del resumen que nos ha compartido la organización, algunas de las cosas que dije allá:

* Me declaro tecnooptimista decepcionado por los disgustos que la tecnología pero animado por el diagnóstico realizado en cuanto al futuro.
* Siguiendo diferentes congresos internacionales estamos en una situación de traspaso entre el momento en que las empresas necesitaban simplemente tecnología y el momento en que se den cuenta de que es clave para la transformación del negocio.
* Alinear y transversalizar las tecnologías es crucial para poder avanzar.
* Los tecnólogos tenemos, efectivamente, dificultades para comunicar y expresar el trabajo realizado.

Creo que resume bien mi estado de ánimo actual con esa decepción por ver todas las cosas que podríamos tener y estar haciendo, que no terminan de llegar.
También con nosotros mismos como profesión, que muchas veces no somos capaces de comunicar bien las ventajas (sin olvidar los cenizos que se preocupan de recordarnos los inconvenientes, que esos sí que lo hacen bien).

Veo oportunidades en los temas relacionados con la ciberseguridad, por supuesto; y en especial la ciberseguridad pensada para las personas (seguridad usable) y la que considera los aspectos económicos (las empresas usan tecnología porque les sirve para el negocio, no porque sea más o menos moderna o interesante).

También soy un firme convencido de que muchas empresas (pero aún hay quien duda) que están pasando de usar la tecnología como algo necesario (o inevitable) a usarla para marcar la diferencia con su competencia y tener mejores resultados.

El encuentro ha tenido reflejo en las páginas de las universidades responsables de la cátedra:

* Marina Suárez (GEMCD) y Albert Domingo (UPF Ventures) participan en el Ágora expertos de Telefónica
* Els nous perfils professionals en l’enginyeria, a debat en una trobada de la Càtedra Telefónica UPC-UPF.

También lo hemos puesto en la página de la cátedra:

En el encuentro de expertos para debatir sobre nuevos perfiles profesionales

Publicado originalmente en En el encuentro de expertos para debatir sobre nuevos perfiles profesionales.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.

💳En España hay 88 millones de tarjetas bancarias y la mayoría de compras pasan por Redsys, intermediario entre nuestra cuenta y la de la empresa a la que pagamos.

➡️Esta plataforma ha generado dudas, ya que ha fallado dos veces en plena campaña del 'Black Friday'. pic.twitter.com/DEck1VraSq

— Aragón Noticias (@AragonNoticias_) November 27, 2023

La semana pasada hubo un par de interrupciones del servicio que proporciona redsys, como pasarela de pago (casi en exclusiva) de muchos comercios en España.
La comunicación ha sido muy escasa y de poca enjundia, pero aún así los medios se han interesado por el tema y nos llamaron desde el programa Buenos Días Aragón para hablar del tema. Se puede ver (a partir de una hora, 21 minutos y un poquito más) en BUENOS DÍAS ARAGÓN - 27/11/2023 08:00.

El mensaje:

- Parece que no se trata de un ciberataque.
- Seguramente hicieron algún cambio de configuración que falló en las pruebas (primer incidente), lo resolvieron de alguna manera que se mostró inadecuada cuando empezó a llegar la carga real del Black Friday (segundo incidente).
- Hay sistemas alternativos, que podrían entrar en funcionamiento en caso de que este falle, pero probablemente ya no estamos a tiempo para ponerlos en funcionamiento para la campaña navideña.
- Casi con toda seguridad ahora sí que estarán resueltos los fallos y no veremos más incidentes en los próximos días.

Publicada originalmente en En Buenos Días Aragón, hablando de lo (poquísimo) que sabemos sobre los incidentes de Redsys.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.

View post on imgur.com

Esto es un blog, y ya tiene unos cuantos años (pronto cumplirá 20). No es el primero, y seguramente por esa duración de vez en cuando nos preguntan sobre el tema en algún medio. En Blogosfera: una aldea gala en el mundo de las redes sociales la periodista Ana Usieto refleja las respuestas que dimos unos cuantos a sus preguntas.

Fernando Tricas es profesor del departamento de Informática e Ingeniería de Sistemas de la Universidad de Zaragoza. Como Aísa, lleva al frente de su bitácora desde los tiempos dorados de este formato. En su caso, el blog le permite "tener un espacio ilimitado de expresión". "Me resulta -añade- una manera cómoda de forzarme a leer y a trabajar sobre los asuntos que me interesan y los blogs son la excusa para compartirlo". Fiel a su sinónimo, bitácora, a Tricas también le sirven como diario: "A veces miro lo que escribí hace diez años, para ver cómo aguantan ciertas ideas en el tiempo. Los contenidos de los blogs, permanecen".

Mi opinión siempre suele ser la misma:

- Tener presencia en internet solo con las redes sociales es muy peligroso, aunque tiene todo el sentido usarlas para tratar de difundir la información que queramos.
- El uso del blog para referenciar hechos relevantes, pensamientos, ideas, ... en un formato que no tiene muchas restricciones y que permite que nos expresemos de la forma que nos parezca oportuna.
- El blog como cuaderno de notqs de cosas que hemos aprendido, que hemos pensado y que más adelante podremos volver a consultar.

Publicada originalmente en En Heraldo de Aragón, hablando de blogs.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.

En Buenos Días Aragón.

La Unión Europea ha estado intentando proponer legislación para detectar contenidos perjudiciales en las redes mediante sistemas de vigilancia e inspección masiva de mensajes.

Llamaron al abogado D. Francisco García Berenguer, que habló de los aspectos legales y a mi para hablar un poco de la parte técnica.

Se puede ver en BUENOS DÍAS ARAGÓN - 15/11/2023 08:00 durante unos días (luego lo quitan). El bloque empieza alrededor del minuto 36 y mi intervención a partir del minuto 45.30 o así.

Las ideas fundamentales son:

- Tenemos tecnología, pero inevitablemente aparecerían falsos positivos (avisos de que algo es nocivo sin serlo). Además del coste computacional que tendría ese escaneo masivo.

- Una vez que los estados tienen acceso a este escaneo, la tentación puede ser muy fuerte de utilizarlo para otros fines diferentes. Nuestros datos dependen en internet del cifrado, y no sólo se accede a nuestra información acerca de lo que están buscando, sino nuestras comunicaciones íntimas, datos bancarios, ...

- Una vez que se permite hacer este tipo de escaneos por indicación de Europa, ¿qué impedirá que otros estados u organizaciones grandes pidan lo mismo para ellos?

Publicado originalmente en En Buenos Días Aragón, de Aragón TV, hablando de vigilancia masiva en Europa.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.

En What Self-Driving Cars Tell Us About AI Risks un recordatorio de lo que es la inteligencia artificial hoy en día.

No voy a entrar en los detalles de la parte de los vehículos, porque me parece un poco negativo y, siendo ciertos los casos que presenta, me interesa más la parte de comprender la tecnología, lo que podemos esperar de ella y el esfuerzo (otra vez) que debemos hacer para tratar con ella.

Primero, parece que no comprendemos muy bien (el público en general, se refiere; y podemos confirmarlo con algunas cosas que se escuchan por ahí de la mano de tertulianos y otros opinadores).
La inteligencia artificial que conduce los vehículos se basa en principios similares a los de ChatGPT y los modelos de lenguaje, esto es utilizan razonamiento estadístico para proponer el siguiente movimiento, con un sesgo muy importante hacia las acciones más recientes.

Both kinds of AI use statistical reasoning to guess what the next word or phrase or steering input should be, heavily weighting the calculation with recently used words or actions.

Por supuesto, no 'comprenden' la situación, el contexto, u otros factores que no están presentes y que, tal vez, un conductor sí consideraría.

Neither the AI in LLMs nor the one in autonomous cars can “understand” the situation, the context, or any unobserved factors that a person would consider in a similar situation.

Las conclusiones de la autora serían:

- Los errores humanos en el manejo del venículo son susstituidas por errores de programación.

1. Human errors in operation get replaced by human errors in coding

Con el agravante que todos sabemos que los errores de programación son extremadamente fáciles de cometer.

- Los fallos de la inteligencia artificial son difíciles de predecir.

2. AI failure modes are hard to predict

- Las estimaciones probabilistas no hacen buenas predicciones bajo incertidumbre

3. Probabilistic estimates do not approximate judgment under uncertainty

- El mantenimiento de las inteligencias artificiales es tan importante como su creación

4. Maintaining AI is just as important as creating AI

De esto hablamos el otro día en El trabajo de la Inteligencia Artificial.

- La inteligencia artificial tiene implicaciones a nivel sistémico que no pueden ignorarse.

5. AI has system-level implications that can’t be ignored

Me parece un poco pesimista todo el artículo, pero vale la pena recordar estas cosas porque creo que estamos en una fase de mitificación de la cosa que hace que creamos que todo es posible y, lo peor, que todo funcionará bien.

Me sumo, por lo tanto, a la última frase, que dice: necesitamos menos histeria y más educación para que la gente comprenda las promesas, pero también la realidad técnica de la IA.

We need less hysteria and more education so that people can understand the promises but also the realities of AI.

Y, en ese sentido, soy pesimista si miramos a nuestra historia reciente sobre la relación que mantenemos con la tecnología.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.

Valderrobres.

Hace unas semanas me contactaron de la Dirección General de Consumo del Gobierno de Aragón para hablar de "Criptomonedas y otras inversiones en la red: oportunidades y riesgos.". Como sé que me dejan hablar de lo que creo que es más interesante y llevo una temporada intentando incluir contenidos de este tipo en mis cursos pensé que sería una buena idea hacerlo.

Las jornadas se celebraron en Valderrobres (cada año se van moviendo a distintos lugares) y el 19 de octubre me fui allí y hablé del tema desde un punto de vista escéptico y precavido.

Se puede ver la presentación que utilicé en Criptomonedas y otras inversiones en la red: oportunidades y riesgos..

Hablé de la cadena de bloques (*blockchain*) y algunos de sus usos fundamentales: las criptomonedas, contratos ingeligentes (*smart contracts*) y fichas no dungibles (*non fungible tokens, NFT*) así como algunos ejemplos que me han parecido intersantes en los últimos años.

De paso, Valderrobres fue un descubrimiento. No había estado y me quedé con ganas de visitarlo con más calma.

Publicada originalmente en En las XXII Jornadas de Información sobre consumo en los municipios, hablando de criptomonedas.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.

View post on imgur.com

A principio de septiembre se realizaron un par de ataques informáticos de distinto perfil. Por un lado, robaban los números de tarjeta (incluyendo el código de veríficación, CVV) de la compañía aérea Air Europa.

Al principio se habló de que podría haber sido un robo de la base de datos, aunque luego se dijo que podría haber sido un ataque de 'web skimming' (poner algún código en la web, que roba la información cuando se hacen las operaciones normales.

El segundo ataque tenía que ver con la empresa de viajes Booking, donde el ataque era algo más intersante: aparentemente robaban las credenciales a los hoteles, y luego las usaban para engañar a sus clientes solicitándoles pagos por un sistema diferente del establecido inicialmente.

Por este motivo nos llamaron de Aragón TV, para salir en dos programas:

- El día 11 de octubre, en Buenos Días Aragón (no hay enlaces porque retiran los vídeos pasados unos días).
- El día 16 de octubre, en Conexión Aragón: LUNES, 16 DE OCTUBRE - 16/10/2023 18:42 (alrededor del minuto 48, no durará mucho en línea).

Los consejos, los de siempre: mantener nuestros sistemas actualizados, no ceder ante la presión de la urgencia que a veces aprovechan los malos para sacar partido de ello. Sobre las tarjetas, tener alguna de esas que son para internet (a veces de prepago), o que se pueden apagar y encender. No obstante, tranquilizar a las personas en el sentido de que cualquier comercio debería redirigirnos a la pasarela de pago del banco, donde deberían pedirnos factores adicionales de autentificación.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.

De vez en cuando alguien publica un texto como el que traemos aquí hoy y nosotros lo comentamos. Para que sirva de recordatorio y porque parece que hace falta, con toda esa gente que se queda sin alguna de sus cuentas (que no son nuestras) y tiene un problema.

En Advice on building your own ecosystem nos recuerdan que las redes sociales tampoco son eternas y que lo que ayer era lo que teníamos que hacer, igual hay que mirarlo hoy de otra forma. Y lo comenta con el caso de Twitter y su dudosa evolución.

The plight of folks who build their online business worlds on the whimsy of a bunch of faceless corporations is on my mind as Twitter appears to be imploding before our eyes.

Porque, como decíamos, parece bastaten imprudente construir nuestra marca (o la de nuestro negocio) confiando solamente en herramientas que no están bajo nuestro control.

It is very imprudent to build your business or personal brand on a platform that is subject to changes that are outside of your control.

Así que nos recomienda cinco cosas:

Tener un sitio web propio que sea nuestro lugar de referencia

Always establish your own brand on your own website that you control.

Registrar nuestro propio dominio, y no delegar para esto en otros.

Register your own domain, never let anyone else do this on your behalf.

No convertir plataformas como TWitter, TikTok y otras en nuestra plataforma primaria. No se trata de no estar, sino de controlar cuál es la fuente primaria de información sobre nosotros.

Never make platforms like Twitter, TikTok, Instagram, or Facebook your primary platform

Tener una lista de contactos en cualquier plataforma, pero exportarla y tenerla también en algún almacenamiento seguro.

Establish a customer contact list (you can use free tools like Mailchimp) but always export your contact lists and store them securely.

Asegurarse de entender las reglas de las plataformas que utilicemos, y tratar de contactar con nuestros clientes/allegados a través de las nuestras.

Always ensure that you understand the rules of the platforms you are using and try to make contact with customers on your own platforms.

Lo hemos visto decenas de veces: Twitter le borra su cuenta a alguien, o Instagram bloquea la de otra persona,... Y pierden toda posibilidad de mantener su presencia (contactos) allí.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.

2023-10-16 17:01 | 0 Comentarios | In English, please | En PDF | Para enlazar # |
| Compartir/Share | por correo | en Twitter | en LinkedIn | en Facebook | en Google+ | en Delicious |

Se habla mucho sobre si la inteligencia artificial nos quitará el trabajo o no, pero no tanto del trabajo que supone el desarrollo en sí de estas tecnologías.
En AI Is a Lot of Work nos cuentan sobre las personas que ayudan a entrenar las inteligencias articiales, anotando, identificando y etiquetando lo que pueda ser relevante. Un trabajo que es difícil y repetitivo. Y no muy bien pagado.

AI learns by finding patterns in enormous quantities of data, but first that data has to be sorted and tagged by people, a vast workforce mostly hidden behind the machines. In Joe’s case, he was labeling footage for self-driving cars — identifying every vehicle, pedestrian, cyclist, anything a driver needs to be aware of — frame by frame and from every possible camera angle. It’s difficult and repetitive work. A several-second blip of footage took eight hours to annotate, for which Joe was paid about .

Esto se presta a otro tipo de evoluciones como puede ser crear escuelas de anotación cuyo aprendizaje consiste en realizar el trabajo: el responsable gana más, y la anotación es más barata.

Joe could make four times as much running an annotation boot camp for a new company that was hungry for labelers. Every two weeks, 50 new recruits would file into an office building in Nairobi to begin their apprenticeships. There seemed to be limitless demand for the work. They would be asked to categorize clothing seen in mirror selfies, look through the eyes of robot vacuum cleaners to determine which rooms they were in, and draw squares around lidar scans of motorcycles.

Como decíamos, la mayoría del interés sobre estos temas ha tenido que ver con los trabajos que se perderán por la automatización, pero el tema de los costes del entrenamiento (por baratos que se intenten hacer) no es despreciable en absoluto.

Much of the public response to language models like OpenAI’s ChatGPT has focused on all the jobs they appear poised to automate. But behind even the most impressive AI system are people — huge numbers of people labeling data to train it and clarifying data when it gets confused. Only the companies that can afford to buy this data can compete, and those that get it are highly motivated to keep it secret.

También hay categorías en estos trabajos: están las personas que entrenan los chatbots más modernos y llamativos, pero también las que se ocupan del mantenimiento (clasificar el contenido emocional de vídeos de TikTok, nuevas variantes de correo basura, o el nivel de provocación sexual de algunos anuncios; incluso mirando transacciones comerciales para ver si la recomendación que se hace a un usuario será adecuada o no).

... while many of them were training cutting-edge chatbots, just as many were doing the mundane manual labor required to keep AI running. There are people classifying the emotional content of TikTok videos, new variants of email spam, and the precise sexual provocativeness of online ads.
Others are looking at credit-card transactions and figuring out what sort of purchase they relate to or checking e-commerce recommendations and deciding whether that shirt is really something you might like after buying that other shirt.

Esto significa, al final, toda una cadena de suministro, con la impresión de que sólo será necesaria durante un tiempo porque será sustituida por las propias IAs.

“There’s an entire supply chain,” said Sonam Jindal, the program and research lead of the nonprofit Partnership on AI. “The general perception in the industry is that this work isn’t a critical part of development and isn’t going to be needed for long.

De momento, sin embargo, parece que el trabajo humano sigue siendo necesario, auque solo sea para asegurarse de que se alimenta a estas inteligencias artificiales con los datos adecuados.

... so now, you need a human to check that the AI is being fed the right type of data and maybe another human who checks its work before passing it to another AI that writes a report, which goes to another human, and so on. “AI doesn’t replace work,” he said. “But it does change how work is organized.”

Se trata entonces de una vuelta de tuerca más a la distribución del trabajo donde la parte vistosa la realizan las máquinas y se oculta la parte del trabajo menos interesante y a la gente que la realiza.

... the latest iteration of a particularly Silicon Valley division of labor, in which the futuristic gleam of new technologies hides a sprawling manufacturing apparatus and the people who make it run.

Seguramente no perderemos el trabajo, pero puede que lo cambiemos por uno más alienante, solitario y aburrido.

When AI comes for your job, you may not lose it, but it might become more alien, more isolating, more tedious.

A pesar de todo, el trabajo es complejo, existen manuales de instrucciones para las personas que trabajan en ello largas y con preocupaciones que no tienen que ver con nuestras necesidades.

The act of simplifying reality for a machine results in a great deal of complexity for the human. Instruction writers must come up with rules that will get humans to categorize the world with perfect consistency.

Otro aspecto interesante tiene que ver con los trabajadores: de pronto puede haber mucho trabajo y luego nada.

That is, when they were making any money at all. The most common complaint about Remotasks work is its variability; it’s steady enough to be a full-time job for long stretches but too unpredictable to rely on.

No sólo eso, los encargos pueden dirigirse a Kenia, la India, Nepal ... Las empresas no tienen infraestructura local, así que pueden moverse sin ninguna dificultad.

Annotation was leaving Kenya. From colleagues he had met online, he heard tasks were going to Nepal, India, and the Philippines. “The companies shift from one region to another,” Joe said. “They don’t have infrastructure locally, so it makes them flexible to shift to regions that favor them in terms of operation cost.”

Muy interesante.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.

View post on imgur.com

La semana pasada me contactó Alberto Rillo a raíz de las inciativas de formación que tenemos relacionadas con la temática para hablar de ciberseguridad. El resultado se ha publicado en Aragón se defiende como el avestruz de la amenaza ‘hacker’ y parece que todas las personas que hablamos en el reportaje coincidimos en que muchas empresas siguen viendo la ciberseguridad más como gasto que como inversión.

Para Tricas, «conviene insistir en que esto es una inversión, como la de mantener los vehículos y las instalaciones de una empresa, para minimizar los riesgos y, en caso de que llegue un ataque luego la información sea fácil de recuperar en un tiempo razonable».

Y otro parrafito:

En ese mar abierto, los piratas se lanzan como hienas a por los más débiles y utilizan a los usuarios menos prudentes como caballo de Troya: «El fallo humano es una de las puertas de entrada más habituales para los ciberataques y ya podemos poner todas las barreras de protección que queramos que, si no nos manejamos con prevención, acabarán afectándonos», alerta Tricas quien, sin embargo, no quiere cargar las tintas sobre «las víctimas». «Para eso trabajamos los sistemas, las redes, los programas y protocolos y nuestra voluntad es sacar de la ecuación el fallo humano tanto como nos sea posible porque cuando este ocurre y no se ha adoptado ninguna medida, el desastre es inevitable», sentencia.

Además publicaron una segunda nota sobre los seguros asociados a estas temáticas, Algunas pólizas cubren el daño de un ciberataque por el pago del rescate.

Un sitio que no conozco ha traducido la nota al francés, Aragon se défend comme l’autruche contre la menace des hackers.

Publicado originalmente en: En el Periódico de Aragón hablando de Ciberseguridad.

Puedes enterarte de las notas nuevas en: @reflexioneseir (Twitter), Reflexiones e Irreflexiones (Página de Facebook), Reflexiones e Irreflexiones (Canal de Telegram), fernand0 (en LinkedIn), @fernand0 (en Medium), Mastodon.