Гладна стачка срещу развитието на изкуствен интелект

На 17-ия ден от гладната си стачка, Гуидо Райхщадтер споделя, че се чувства добре, макар и да се движи по-бавно. От 2 септември той протестира пред централата на AI стартъпа Anthropic в Сан Франциско, настоявайки за спиране на надпреварата към изкуствен общ интелект (AGI). Райхщадтер смята, че AGI представлява екзистенциален риск, който компаниите не приемат сериозно. Той вярва, че гладната стачка е най-ясният начин да привлече вниманието на лидерите в AI индустрията.

Райхщадтер цитира интервю от 2023 г. с изпълнителния директор на Anthropic, Дарио Амодей, който признава, че вероятността нещо да се обърка катастрофално е между 10 и 25 процента. Според Райхщадтер, компаниите имат отговорност да не развиват технологии, които могат да навредят на хората в голям мащаб.

Всеки ден Райхщадтер поздравява охранителите на Anthropic и наблюдава как служителите избягват погледа му. Той се надява да вдъхнови служителите на AI компаниите да действат като хора, а не като инструменти на своите компании, защото те разработват най-опасната технология на Земята.

Неговите страхове се споделят от много други в света на AI безопасността. Райхщадтер за първи път осъзнава потенциала за "човешко ниво" AI по време на студентските си години преди около 25 години, но с пускането на ChatGPT през 2022 г. той започва да обръща по-сериозно внимание.

През последните месеци Райхщадтер се опитва с все по-публични методи да привлече вниманието на технологичните лидери към проблема, който смята за жизненоважен. Той е работил с групата "Stop AI", която се стреми да забрани суперинтелигентните AI системи.

След началото на неговия мирен протест, двама други вдъхновени от него започват подобен протест в Лондон пред офиса на Google DeepMind. Един от тях, Майкъл Трази, участва в гладната стачка в Лондон за седем дни, преди да спре поради здравословни причини, но продължава да подкрепя другия участник, Денис Шеремет.

Трази и Райхщадтер споделят сходни страхове за бъдещето на човечеството под напредъка на AI, макар че не се определят като част от конкретна общност или група. Те вярват, че действията им ще доведат до признание, среща или ангажимент от страна на изпълнителните директори да променят своите траектории.

Според Райхщадтер, "Ние сме в неконтролирана, глобална надпревара към катастрофа. Ако има изход, той ще разчита на хора, които са готови да кажат истината и да признаят, че не са в контрол."