Boletín Técnico de Ingeniería
1. Correlados falsos, se basa en la información que dispone y actúa en consecuencia, están basadas en
reglas estadísticas en el casos adaptativos es IAs, pero en el tratamiento de datos, puede haber correlaciones
de datos y dependencias que no tienen por qué ser ciertos. Como puede ser los comportamientos
estacionales de los Mercados de valores y la caída de la hoja del Platanero, ambas son
estacionales. Cuando tenemos pocos datos estadísticamente es difícil que se den estos casos, pero a
medida que tenemos más datos para alimentar el sistema esto puede hacerse más fácil que se dé, y
más difícil de detectar (las nuevas tecnologías se basan en cantidades ingentes de datos).
2. Readaptación o casos especiales, estas herramientas actúan como un martillo, es decir que para
esta herramienta, todo son clavos. Estos sistemas suelen disponer de una gran inercia o incluso en
punto de optimización determinado y pueden encontrar máximos locales o soluciones de compromiso
que no contemplados inicialmente, y los cuales no son lo que buscamos.
3. Sesgos, estos pueden ser dados en el diseño del sistema, ya sea por arquitecto del sistema o la información
usada en caso de IAs, (Dataset sesgado).
4. Teoría del caos, hay varias definiciones pero en el caso de las ecuaciones de Lorenz 2 que muestran
sistemas donde las variables son múltiples imposibles de ser conocidas, y con el peso de cada variable
en el sistema, depende del resto de variables. El caso más común de esto es el estudio de la Meteorología
donde la cantidad de variables que afectan son ingentes.
Estos problemas son propios de sistemas complejos, pero a estos hay que añadir que en el caso de Defensa,
existe un 5, ataques externos, los cuales buscarán los puntos débiles, sabiendo esto, por parte de DARPA ha
creado un programa para estudiar estos ataques y como minimizarlos 3, (aunque no lo trataremos en el
artículo al ser tan complejo).
Como ejemplo los típicos errores de estos sistemas son:
Tratarlas como una mejora de lo existente cuando es un cambio filosofía, como cambiar tornillos de
acero A2 304 por unos de Inconel que evidentemente son mejores, pero no deja de ser un tornillo, y
«funciona» igual, el único cambio serían sus procedimientos NDT (NonDestructive Testing) son diferentes.
Este concepto es más similar a comparar una radio antigua con su dial, a un centro de entretenimiento
con sus diferentes menús, aplicaciones y preselecciones. Como ejemplo en el BMW Serie
7 modelo E65, y sus sistema de info entreteniendo, tenía tal cantidad de menús y modos programables
que obligaron a la marca a sacar una versión más sencilla por las quejas de sus usuarios que se
Pérdida de consciencia situacional de su funcionamiento, desconocer o no entender el funcionamiento
del sistema. El caso más mediático ha sido con el MCAS (Maneuvering Characteristics Augmentation
System) de la aeronave Boeing 737 MAX, que el fallo era el sistema descompensaba el
sistema de compensación automática, el cual cuando fallaba la actuación de los pilotos fue compensar
con los mandos de vuelo, en vez de actuar desactivando el sistema de compensación automática.
Detección de datos erróneos, aunque muchos sistemas tienen formas de detectar fallos en sensores,
pero no todos se pueden detectar, por ejemplo algunos debidos a descalibración o degradación de
características. En añadido al problema del MCAS, el fallo real que implicaba la actuación errónea, se
debía al sensor de medición del ángulo de ataque de la aeronave. En caso de fallos de sensores, y
estos no sean reconocidos, esos datos darán lecturas erróneas y el error se propagará por el sistema,
en caso de sistemas adaptativos o con aprendizaje activo, esto llega al problema que el error no se
54
perdían entre tantas opciones.