човека четат тази публикация в момента
Рафи Крикориан, бивш шеф на отдела за автономно шофиране в Uber, катастрофира със своята Tesla Model X, докато е използвал функцията за автономно шофиране. Инцидентът се случва по време на рутинно завиване наляво в жилищен район, при което автомобилът се блъска в бетонна стена. Семейството му остава невредимо, но инцидентът отново поставя на дневен ред важния въпрос за безопасността на полуавтономните системи.
Опитът на Крикориан илюстрира явление, наречено „морална зона на деформация“. Въпреки че автопилотът успешно управлява 99% от шофирането, отговорността остава на човека. Tesla е използвала това разграничение в много съдебни дела, за да се предпази от отговорност.
Проблемът не е само в софтуерни грешки, а и в човешката психология. Експертите посочват „намаляване на бдителността“ като ключов фактор. Когато системата работи безупречно дълго време, шофьорите започват да губят внимание.
С напредването на технологиите, шофьорите развиват по-голямо доверие, което може да доведе до неадекватни реакции в критични ситуации. Човешкият мозък не е подготвен за мигновени прехвърляния на контрол, а проучвания показват, че разсеяният човек се нуждае от време, за да реагира.
Законовите рамки в САЩ защитават производителите, като задължават водачите да следят пътя. Производителите твърдят, че реалният опит е необходим за усъвършенстване на изкуствения интелект, но Крикориан предупреждава, че ранните потребители стават „сензори за безопасност“ за компаниите.
Крикориан заключава, че преходният етап между различните нива на автономност може да е неизбежен, но съществува риск софтуерът да е по-безопасен в дългосрочен план, докато човешката бдителност намалява.
Снимка: fakti.bg
