Университеты хотят ввести курсы компьютерной этики

У медицинской профессии есть свои этические нормы: во-первых, не навреди. А кредо Силиконовой долины - сначала создайте, потом попросите прощения.

Теперь, вслед за фейковыми новостями и другими неприятностями в технических компаниях, университеты хотят привнести в компьютерную науку больше этических норм, например, как в медицине. Об этом сообщает The New York Times.

В этом семестре Гарвардский университет и Массачусетский технологический институт предлагают новый курс по этике и регулированию искусственного интеллекта. Техасский университет в Остине недавно представил курс под названием "Этические основы компьютерной науки", главная идея которого состоит во внедрении моральных норм во все области информатики.

В Стэнфордском университете три профессора и научный сотрудник разработали курс этики компьютерных наук на следующий год. Ожидается, что на эти занятия запишутся более несколько сотен студентов.

Главная цель курсов - обучить следующее поколение технологов и политических деятелей принимать во внимание последствия от инноваций (автономное оружие или автомобили) до того, как эти продукты поступят в продажу.

"Речь идет о выявлении проблем, которые станут актуальными через два, три, пять, десять лет – студентам, заканчивающим наши университеты, придется бороться с ними", - заявил профессор компьютерных наук в Стэнфорде Мехран Сахами. – "Технология не является нейтральной. Выбор, который делается при создании новых технологий, всегда имеет социальные последствия".

Идея создания курсов компьютерной этики появилась в тот момент, когда крупные технологические компании изо всех сил пытаются справиться с негативными последствиями собственных продуктов - фейковые новости на Facebook, поддельные подписчики на Twitter, непристойные детские видеоролики на YouTube. Это открытый вызов для Силиконовой долины, которая ранее не рассматривала этику как препятствие.

"Нам нужно донести до людей, что есть и темная сторона", - заявила постдокторат в Нью-Йоркском университете Лаура Норен. – "Можно исправить программное обеспечение, но нельзя исправить человека".

Программы по этике компьютерной науки необходимы, чтобы студенты понимали моральные вопросы, связанные с вычислениями. Это позволит учащимся получить аккредитацию ABET. Некоторые программы предусматривают внедрение курса этики непосредственно в сам предмет (информатика или компьютерные науки), другие же – как отдельный курс.

"Если вы создаете ПО для приложений, то практически не будете сталкиваться со смертью или болью, в отличии от врачей", - прокомментировал директор M.I.T. Media Lab Джой Ито. По его словам, одна из причин, почему университеты выступают за внедрение этики компьютерных наук – популяризация таких технологий, как машинное обучение (компьютерные алгоритмы, которые могут самостоятельно изучать задачи, анализируя большие объемы данных). Поскольку такие технологии могут существенно изменить человеческое общество, университеты хотят помочь студентам осознать возможные последствия.

"Я думаю, что люди пытаются составить какие-то этические правила, когда видят автономные автомобили – ведь они могут не только помогать, но и вредить", - заявил Джой Ито.

Прошлой осенью Корнельский университет представил курс науки о данных, в ходе которого студенты научились решать такие этические проблемы, как "предвзятые данные". Также студенты обсудили использование алгоритмов, помогающих автоматизировать важные жизненные решения – например, прием на работу или поступление в университет.

"Этими курсами мы хотели помочь студентам понять, с чем они могут столкнуться, работая в сфере науки о данных, и как они могут более систематически анализировать эти проблемы", - заявил доцент информатики Солон Барокас.

В свою очередь, на другом курсе Корнельского университета доцент информатики Карен Леви учит своих студентов ориентироваться на этику технических компаний.

"Многие решения, неправильные с моральной точки зрения, связаны с выбором компаний: какие продукты они выбирают для разработки, какую политику ведут в отношении пользовательских данных", - прокомментировал Карен Леви. – "Если курсы этики науки о данных полностью сосредоточены на индивидуальной ответственности научного сотрудника, они рискуют упустить из виду роль предприятий".

Гарвардский курс M.I.T., в котором участвуют 30 студентов, фокусируется на этических, политических и юридических последствиях искусственного интеллекта. Занятия были частично профинансированы новым фондом по исследованию этики интеллекта. Среди главных инвесторов фонда - соучредитель LinkedIn Рид Хоффман и венчурный инвестиционный фонд Omidyar Network.    

Учебная программа также охватывает множество алгоритмов для оценки степени риска в используемых данных. Например, независимо от того, был ли человек временно отстранен от занятий в школе или сколько раз были арестованы друзья ребенка, алгоритмы позволят предсказать, может ли кто-то из них совершить преступление.

Некоторые университеты хотят внедрить такие программы в свои предметы, в частности, в информатику, право или философию. В Стэнфорде кафедра информатики предложила новый курс по этике под названием "Этика, государственная политика и информатика".

Ожидания от курса завышены отчасти из-за популярности профессора Сахами в университетском городке. Ежегодно около 1500 студентов проходят вступительной курс по информатике.

Новый курс этики охватывает такие темы, как искусственный интеллект и автономные машины; конфиденциальность и гражданские права; платформы, подобные Facebook. Профессор политологии в Стэнфорде Роб Райх заявил, что студентам будет предложено рассмотреть эти темы с точки зрения инженеров-программистов, разработчиков продуктов и политических деятелей. Кроме того, учащиеся должны будут "перевести" идеальные решения в компьютерную программу.

"Стэнфорд несет ответственность за то, что играет ведущую роль в интеграции этих перспектив. Множество институтов, которые генерируют следующее поколение лидеров в технологическом секторе, должны "попасть в этот поезд"", - заявил еще один профессор политологии в Стэнфорде Джереми Вайнштейн.