Рішення Харарі — і які з них можуть спрацювати
Мій попередній пост був про попередження Харарі. Цей — про його рішення, бо він таки їх пропонує. І я знову запитав Claude, що він про них думає.
План захисту від Харарі має три рівні.
Юридичні заборони. Жодної правосуб'єктності для ШІ — він ніколи не зможе володіти грошима, компаніями чи майном. І жодного прикидання: бот завжди мусить казати, що він бот. ШІ, які видають себе за людей, Харарі називає «фальшивими людьми» і хоче, щоб до них ставилися як до фальшивих грошей.
Сповільнитися і збалансувати. Дати суспільству час перетравити зміни. І виправити абсурдну пропорцію витрат: приблизно у 100 разів більше йде на те, щоб зробити ШІ потужнішим, ніж на те, щоб зробити його безпечним. У фармі компанію, яка витрачає 1% на тестування безпеки, просто закрили б.
Сильні інституції. Його найглибша думка. Захист — це не технічний трюк, а суди, вільна преса, вибори, багато незалежних центрів влади. Історія з Тиберієм працює в обидва боки: одного диктатора захопити легко, розподілену систему — важко.
Вердикт Claude був неоднозначний, і я його загалом поділяю.
Заборони — сильна частина. «Бот мусить казати, що він бот» — чітке правило, яке легко контролювати, як маркування на їжі. Заборона правосуб'єктності зачиняє небезпечні двері, поки це ще дешево. (Claude чесно додав: «Тут я не можу бути повністю нейтральним».)
«Сповільнитися» — слабка частина. Гарні слова без механізму. Хто зупиниться першим? Ніхто не хоче бути першим. Але пропорцію витрат можна врятувати: 100 до 1 — це вимірювана річ, а вимірювані речі можуть стати регуляцією.
Ставка на інституції — найцікавіше. Харарі називає «полагодити сам ШІ» наївністю, але «зберегти сильні інституції» вважає досяжним. А суди й вільна преса справді в кращій формі, ніж дослідження alignment? Важко і те, і те. Висновок Claude, який я вкраду: потрібне і безпечне інженерство, І сильні інституції. Ставити лише на одне — ставка, яку ніхто не може дозволити собі програти.
Одна річ у Харарі не потребує дискусій: вирішувати треба зараз, поки правила ще пишуть люди.