У Cruise знали, що її безпілотні автомобілі не завжди розпізнають дітей, але продовжували випробування

Компанія Cruise, що належить корпорації General Motors, не припинила випробування своїх безпілотних автомобілів навіть після того, як дізналася, що їх навігаційні алгоритми при певних сценаріях можуть не розпізнавати дітей і дорожні ями.

Cruise проводила випробування безпілотних автомобілів, у тому числі прав комерційної експлуатації, на дорогах загального користування в декількох містах США. Її представники запевняли, що автопілот набагато безпечніший, ніж людина, яка перебуває за кермом, але це не зменшувало скептицизму з боку як рядових учасників дорожнього руху, так і регулюючих органів. Нещодавно Департамент моторних транспортних засобів Каліфорнії (DMV) відкликав дозвіл на експлуатацію роботаксі Cruise, причому приводом послужили не численні інциденти з машинами, а той факт, що компанія приховала запис пригоди , в якій роботакси близько 6 метрів протягнуло людини, що потрапила під колеса.

Але цей інцидент є лише верхівкою айсберга, з'ясували журналісти The Intercept. Повідомлення у внутрішньому чаті компанії показують, що її співробітники були обізнані про дві важливі проблеми: безпілотні автомобілі Cruise важко виявляють великі ями на дорогах і за певних умов можуть не розпізнавати дітей. Знаючи про це, вона продовжувала експлуатувати ці транспортні засоби та запевняла громадськість про їхню безпеку.

Внутрішні матеріали Cruise вказують, що її робомобілі дуже швидко перетинають пішохідні переходи і не зменшують швидкості, навіть виявивши присутність дитини в безпосередній близькості, хоча вона будь-якої миті може вибігти на дорогу. У навчальних даних, визнає розробник, недостатньо опрацьовані сценарії, за яких дитина раптово тікає від дорослого, що супроводжує, падає, катається на велосипеді або носить нестандартний костюм. Як показало моделювання, компанія не виключає, що безпілотний автомобіль може збити дитину. В одному з тест-драйвів машина Cruise успішно виявила манекен розміром з дитини, але все ж таки вдарила його бічним дзеркалом на швидкості 44,8 км/год.

Нездатність робомобілів достовірно виявляти дітей у внутрішніх матеріалах компанії пояснили недосконалим ПЗ і недостатньо ефективними умовами випробувань: програмна платформа не має високоточного класифікатора «малих уразливих учасників дорожнього руху», тобто дітей, який дозволяв би їх автоматично ідентифікувати та виробляти необхідні навігації. Компенсувати цю ваду в компанії намагалися за допомогою навчених операторів, які вручну ідентифікували дітей, якщо ПЗ давало збій.

У Cruise визнали, що минулих літом в рамках випробувань на симуляції автопілот на якийсь час втрачав на увазі дороги дітей, що перебувають на узбіччі. Компанія уточнила, що проблема була усунена, і виникала вона лише під час випробувань, а не експлуатації машин на дорогах загального користування – при цьому замовчала, скільки часу пішло на усунення проблеми, і яким саме чином її усунули. Представниця Cruise Навіде Форгані (Navideh Forghani) додала, що програмне забезпечення не просто не змогло ідентифікувати ці об'єкти як дітей, а взагалі не побачило їх. Директор компанії зі зв'язків із громадськістю Ерік Мозер (Erik Moser) наголосив, що класифікація дітей як особливої ​​категорії пішоходів має особливе значення, оскільки вони можуть поводитися непередбачено. За оцінками компанії, ризик зіткнення з дитиною може виникати один раз на 300 млн миль (480 млн км) пробігу автопарку, і з моменту випробувань, за підсумками яких було дано цю оцінку, показник був підвищений. Фактичних наїздів на дітей зафіксовано не було.

Ще одна відома розробнику проблема автопілота Cruise - його нездатність виявляти великі дорожні ями, у тому числі які виникають при дорожніх роботах, де знаходяться робітники. Про проблему відомо більше року, і, за власними оцінками компанії, вона є серйозним ризиком для її діяльності: з існуючою версією програмного забезпечення один з робомобілів Cruise може в'їжджати в яму без людей раз на рік, а в яму з людьми — раз на чотири роки . Без усунення проблеми ризик може зрости, оскільки парк безпілотних машин розширюється. І ця гіпотетична проблема вже не є: існує запис, на якому автомобіль Cruise, ігноруючи дорожні конуси, прямує до ями з робітниками, різко гальмуючи лише на під'їзді — чи в'їхала машина в яму або встигла загальмувати, не відео не потрапило.

Професор Університету Карнегі - Меллона Філ Купман (Phil Koopman), з яким поспілкувалися журналісти The Intercept, повідомив, що проблема "негативних перешкод" (так розробники безпілотного транспорту називають ями) відома давно, і Cruise слід було включити їх у навчальний масив із самого початку. Він розкритикував механізм машинного навчання, що базується на обробці сценаріїв після того, як машина зіткнулася з загрозою, а не до цього моменту. Вирішити проблему з некоректною класифікацією дітей як особливої ​​категорії пішоходів — це свого роду інженерний парадокс, оскільки важко класифікувати об'єкт, який взагалі не завжди виявляється. Cruise спробувала тимчасово вирішити цю проблему, обмеживши години експлуатації роботаксі, але компанії явно не слід було відмовлятися від послуг операторів у салоні робомобілів - це було зроблено виключно для іміджу та інвесторам.

Проблеми дітей та ям на дорогах є не єдиними у Cruise. Раніше також стало відомо, що безпілотні автомобілі компанії некоректно здійснювали лівий поворот на перехрестях, що не регулюються. Для виправлення цієї проблеми Cruise довелося випустити спеціальне оновлення ПЗ.