Tento nový vývoj byl vítán jako dobrá zpráva, ale nese s sebou určitá rizika.
Sam Altman je mocným zakladatelem OpenAI, společnosti, která vyvíjí umělou inteligenci. Kromě toho vlastní další společnosti se stejnými bláznivými nápady, jako když se nás snaží učinit nesmrtelnými. Jeho úsilí se však obecně zaměřuje na umělou inteligenci, a to natolik, že o to požádal všechny Přestaňte o tomto konceptu filozofovat A pracujte jednou provždy, abyste se posunuli vpřed.
Tentokrát je téma, které probereme, poněkud znepokojivé. Podle nedávného článku na X tvrdí, že to AI zvládne Manipuluje s námi a velmi brzy si s námi dělá, co chce. To představuje nebezpečí.
Umělá inteligence už může být připravena s námi manipulovat.
Očekávám, že umělá inteligence bude schopná nadlidského přesvědčování, než se stane supergenerální inteligencí, což by mohlo vést k velmi podivným výsledkům
– Sam Altman (@sama) 25. října 2023
Cílem umělé inteligence, jak ji známe, je dosáhnout umělé obecné inteligence. To znamená, že umělá inteligence může a dokázala všechno Inteligence daleko převyšuje tu lidskou. Tento bod je však zajímavý K tomu je ještě dlouhá cesta. Podle Sama Altmana je však ještě jeden životně důležitý cíl, který je mnohem bližší: přesvědčit nás, abychom dělali, co chce ono – nebo jeho tvůrci – chtějí.
Očekávám, že umělá inteligence bude schopna nadlidského přesvědčování dlouho předtím, než bude nadlidská obecně, což by mohlo vést k velmi podivným výsledkům.
Dnes, i když selžou, jsou systémy umělé inteligence ve svých výsledcích tak přesvědčivé, že i lidé, kteří nejsou odborníky v oblastech, o kterých mluví Věřte všemu od začátku do konce. Tato schopnost tvrdit věci jako pravdivé, ale ve skutečnosti pravdivé nejsou, je Velmi nebezpečné Protože je velmi přesvědčivý a může se šířit Pověsti a kol špatné informace.
Zdá se ale, že v budoucnu mohou být v tomto ohledu vážnější. I když to mnoho lidí chválilo jako Chvályhodný pokrokmohlo by to také představovat nebezpečnou budoucnost, pokud ano Používá se pro škodlivé účely Nebo jestli se prostě mýlila, aniž by si to uvědomovala.
Na druhou stranu, zdá se, že to tweet naznačuje Jejich interní testovací sestavení už toho dosáhla. Je to jen spekulace, ale zdá se, že AI již možná oklamala některé členy svého týmu, kteří ji testují a trénují, aby byla v budoucích verzích lepší.
Shrnout:
- Umělá inteligence může být velmi blízko získání schopnosti přesvědčovat.
- Přinejmenším to bude mnohem rychlejší než AGI.
- Obecně však může být velmi nebezpečný.
- Tím, že se řekne, že se to stane dříve, než si myslíme, se to zdá Verze, které to dokážou, již byly testovány.