Riguardo alla specie umana, penso ci fossero già buone ragioni per non fidarsi di essa anche prima dell'invenzione della IA
Riguardo all'utilità che l'IA potrebbe avere credo che si rivelerà double-face come altre invenzioni, ovvero se sarà in grado di aiutare nell'individuazione di evasori e trafficanti è evidente che sarà anche in grado di aiutare gli stessi evasori e trafficanti a non farsi beccare.
Personalmente non sono preoccupato delle situazioni più critiche/estreme, perché quelle già ci sono (guerre, soprusi, povertà e sfruttamento dei popoli, inquinamento, etc..) ma non credo che l'AI possa avere un influenza acceleratrice solo in senso negativo.
Sono invece incuriosito e più preoccupato dagli effetti indiretti che l'uso di IA anche per scopi non malevoli potrà avere nella società in tempi molto rapidi.
Ho seguito svariati programmi radio/TV e rubriche sul tema, non ho maturato ancora una visione che mi permetta di esprimere un sunto, ma mi pare un fatto che l'intelligenza artificiale stia entrando in molti ambienti produttivi/creativi/lavorativi inizialmente come ausilio a svolgere compiti circoscritti, ma con una capacità molto rapida di espandere la propria utilità e sostituirsi alle competenze che di solito necessitano di uno o più esseri umani.