Recenzie čitateľov
Zhrnutie:Kniha Stuarta Russella „Human Compatible: V knihe Umelá inteligencia a problém kontroly sa skúma zásadná otázka zosúladenia pokročilej umelej inteligencie s ľudskými hodnotami. Predkladá prístupný prehľad súčasných výziev a nebezpečenstiev, ktoré predstavuje umelá inteligencia, a zároveň navrhuje zásady, ktoré majú zabezpečiť, aby umelá inteligencia zostala pre ľudstvo prospešná. Kniha poukazuje na existenčné riziká vývoja UI a vyzýva na nové prístupy pri navrhovaní UI, ktoré sa zameriavajú na pochopenie a maximalizáciu ľudských preferencií.
Výhody:Kniha je chválená za to, že je dôležitým a aktuálnym čítaním, ktoré sa zaoberá existenčnými rizikami UI. Mnohí recenzenti oceňujú jej prístupný štýl písania, vďaka ktorému sú zložité témy zrozumiteľné pre široké publikum. Účinne načrtáva nebezpečenstvá súčasných prístupov k UI a navrhuje premyslený rámec na vytvorenie zosúladenej UI. Celkovo ju čitatelia považujú za prenikavú a za cenný príspevok do diskusií o etike a bezpečnosti UI.
Nevýhody:Kritici poukazujú na to, že niektoré argumenty a pojmy v knihe môžu byť hutné a ohromujúce, najmä pre čitateľov, ktorí sa s témou UI ešte len zoznamujú. Niektorí recenzenti sa domnievajú, že druhá polovica knihy, ktorá navrhuje riešenia pre bezpečnú UI, nie je dostatočne realizovateľná a opiera sa o príliš ambiciózne predpoklady. Okrem toho sa objavujú tvrdenia o opakujúcom sa obsahu a potrebe zjednodušenia v niektorých častiach. Niekoľko čitateľov tiež vyjadruje skepsu voči autorovým záverom týkajúcim sa budúcich možností umelej inteligencie.
(na základe 73 čitateľských recenzií)
Pôvodný názov:
Human Compatible: Artificial Intelligence and the Problem of Control
Obsah knihy:
Popredný výskumník v oblasti umelej inteligencie predstavuje nový prístup k umelej inteligencii, ktorý nám umožní úspešne koexistovať s čoraz inteligentnejšími strojmi
V populárnych predstavách je nadľudská umelá inteligencia blížiacou sa prílivovou vlnou, ktorá ohrozuje nielen pracovné miesta a ľudské vzťahy, ale aj samotnú civilizáciu. Konflikt medzi ľuďmi a strojmi sa považuje za nevyhnutný a jeho výsledok za príliš predvídateľný.
V tejto prelomovej knihe významný výskumník v oblasti umelej inteligencie Stuart Russell tvrdí, že tomuto scenáru sa dá predísť, ale len vtedy, ak od základu prehodnotíme umelú inteligenciu. Russell začína skúmaním myšlienky inteligencie u ľudí a strojov. Opisuje výhody, ktoré môžeme očakávať v blízkej budúcnosti, od inteligentných osobných asistentov až po výrazne zrýchlený vedecký výskum, a načrtáva prelomové objavy v oblasti umelej inteligencie, ktoré ešte musia nastať, kým dosiahneme nadľudskú umelú inteligenciu. Uvádza aj spôsoby, ktoré už ľudia nachádzajú na zneužitie AI, od smrtiacich autonómnych zbraní až po vírusové sabotáže.
Ak dôjde k predpokladanému prelomu a vznikne nadľudská umelá inteligencia, vytvoríme entity oveľa mocnejšie, než sme my sami. Ako môžeme zabezpečiť, aby nad nami nikdy, nikdy nemali moc? Russell navrhuje, že môžeme prebudovať UI na novom základe, podľa ktorého sú stroje navrhnuté tak, aby boli vo svojej podstate neisté, pokiaľ ide o ľudské preferencie, ktoré majú uspokojovať. Takéto stroje by boli pokorné, altruistické a odhodlané sledovať naše ciele, nie ich. Tento nový základ by nám umožnil vytvoriť stroje, ktoré sú preukázateľne úctivé a preukázateľne prospešné.
