Bösartige KI: die Realität der Bedrohung

Hallo Habr! Heute möchten wir ein so heikles Thema wie böswillige KI diskutieren.

« » - , . , , -: , : « » (Person of Interest), « » (Westworld) « » (Raised by Wolves).

, . ?

. , . , . .

: " - , ".  - . - , , . , .

, , . , , .

" ", . , () - , , , , , .

- . , - , , .

, - , .

2018 2020 , . . The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation" (" : , ") 26 14 , , , , , OpenAI.

, . .

-

, , ... - .

- , , , , - , , .

, . , - . , - - .

, . SIEM-, , , .

, , , . , , , .

, - , , ?

: . , “-”, , , , , . - ?

- “ ” . 2018 IBM , , - DeepLocker.

, , . - , . DeepLocker - , .

IBM, , . , .

. , , IBM, .  . , - .

: , . , “ ”, - , .

,

, , .

, , CAPTCHA , XEvil 4.0 ( CAPTCHA ), PWnagotchi 1.0.0 ( Wi-Fi ).

, , : .

, - Spotify Instagram, . - .

Spotify, , 25 180 . , - , ? , .

. , .

, , . , “”, .

; , - , .

, , Eagle Eyes, , , , , -. . , .

- . . , .

, . “” , , , - .

. , , , ; , - - . , , - , - , , . , - .

: , - ( ). , . , -.

: - , , . “” , , . .

“” “”?  ( ). -.

“ , - ”, - .

, , .

: , , . , , . , .

, - : . - , .

- . , . - - .

“ ”, “ ”.

- , , . - - , , .

“” : , , - . , ( ), “ ” - .

- ; , TOR. , , - .

- ?

, . .

" " () - .

. , , , - . - "": , - , , . , . ( , ).

, - .

, , , . , , , .

- “ ” - -, “”.  ,

. , . ; . , , “” . “ ” .

, . - .

- , . “ ” , . , ; , ; , - ; - .

: , ( , ).

, . , , - - . ? - , " " “ ”, , best practices . , . .

.

---

. , , - . , , , - .

, , , , , , , ? ?

. , . - . . , .

, , , - .

: , , , “” ; - - , , . , “ ”, - , - .

, , . - .

, , . , - . - .

, . .