超知能AIをつくれば人類は絶滅する / 原タイトル:IF ANYONE BUILDS IT,EVERYONE DIES

どこの企業や国家によってであれ、ヒトの知能を凌駕する「超知能AI」がつくられたら、地球上のすべての人間が必ず死ぬ。LLM(大規模言語モデル)がより高度な「大規模推論モデル」へと進化しつつあるいま、その時は確実に近づいている―。本書が提示するシナリオでは、数学の未解決問題を解くために開発されたAI「セイブル」がウイルスをばら撒き、全人類の10%を死滅させる。そして残りの90%も一瞬で...。一体なぜ?最悪の結末を回避するために、私たちにできることとは?AI技術を核兵器などと同様の「人類絶滅リスク」として取り扱うべきという議論が近年なされるが、著者のエリーザー・ユドコウスキーはその源流にして極北に位置する。ピーター・ティールが多額を出資し、またサム・アルトマンにOpenAI創業の示唆を与えるも、いまや彼らと反目にいたった天才が圧倒的な練度で放つ、現代の黙示録。