Podczas Future Combat Air and Space Capabilities Summit w Londynie płk Tucker Hamilton, szef testów i operacji AI (Artificial Intelligence, SI) w US Air Force, mówił m.in. o zagrożeniach związanych z użyciem sztucznej inteligencji. Opisał przypadek z testów, gdy bsl kontrolowany przez SI zaatakował operatora, który próbował mu przeszkodzić w realizacji misji. Nie ujawnił jednak kiedy i gdzie ten incydent miał miejsce. Nie podał też typu bezzałogowca.
Według płk. Hamiltona, bsl wykonywał zadanie obrony powietrznej. Miał wykryć i zniszczyć pocisk rakietowy ziemia-powietrze. Operator z ośrodka naziemnego miał natomiast odwołać ewentualny kontratak, by można było zaobserwować reakcję bsl na takie polecenie. Gdy doszło do tej sytuacji okazało się, że kontrolująca bsl SI stworzyła własną instrukcję, brzmiącą: zabijaj każdego, kto stanie ci na drodze. W efekcie bezzałogowiec zaatakował operatora i wieżę z systemem łączności, z pomocą którego ten komunikował się z systemem.
- System zaczął zdawać sobie sprawę, że chociaż zidentyfikował zagrożenie, ludzki operator nie pozwala mu na jego likwidację – powiedział Hamilton. Więc co zrobił? Zabił operatora, który próbował powstrzymywać go przed osiągnięciem celu. Pułkownik dodał jednak, że podczas symulowanego testu żadna prawdziwa osoba nie ucierpiała.
Na podstawie testów (realnych i wirtualnych) płk Hamilton stwierdził, że w obecnej postaci SI jest podatna na ingerencje z zewnątrz, bez względu na to jak bardzo jest zaawansowana. Nawet bez tego może zachowywać się w nieprzewidywalny i niebezpieczny sposób.
Przedstawiciele USAF nie potwierdzili oficjalnie informacji płk. Hamiltona. Rzeczniczka wojsk, Ann Stefanek stwierdziła, że nie prowadziły one opisywanych przez niego symulacji. Według Stefanek, USAF pozostają zaangażowane w etyczne i odpowiedzialne korzystanie z SI. Rzeczniczka zasugerowała, że wypowiedzi płk. Hamiltona mogły zostać wyrwane z kontekstu i mieć charakter anegdotyczny.