Развитие новых технологий: чем отличается мышление искусственного интеллекта и человека

12 апреля 2022

Читай в новой статье Royal Cheese, действительно ли машина и человек способны мыслить одинаково, или это два совершенно не похожих друг на друга процесса.

Вопрос, которым сегодня задались ученые, — действительно ли человек и искусственный интеллект думают одинаково, или у этих двух процессов совершенно разные и не похожие друг на друга алгоритмы?

Читай в новой статье Royal Cheese, к какому мнению на этот счет приходит наука, а так же о том, какое место занимает ИИ в жизни человека.

Новые технологии в области искусственного интеллекта

Ученые Массачусетского технологического института разработали метод, который помогает пользователю понять рассуждения модели обучаемого искусственного интеллекта. Благодаря этому исследователи могут сравнить рассуждения машины и человека, а также оценить, насколько они между собой похожи.

Кристин Данилофф отмечает, что новый метод позволяет понять цепочку размышлений компьютерного алгоритма и выявить общие закономерности, что важно для понимания процесса обучения ИИ. Теперь ученые могут понять, почему искусственный интеллект выбирает именно это решение, а не другое.

Так, например, раньше обучаемый ИИ мог правильно предсказать, что поражение кожи является раковым, но иногда он мог совершить ошибку, используя несвязанные данные на исследуемой фотографии. Теперь же ученые смогут быстрее находить и исправлять подобные ошибки, причем в разы быстрее, чем раньше.

Чем отличается мышление искусственного интеллекта и человека

Мышление искусственного интеллекта и человека действительно отличается: ИИ анализирует до миллиона параметров по одному запросу или задаче и на основе собранных данных делает выводы, которые могут быть совершенно непонятны человеку. Исследователь, например, может сразу оценить, какие критерии нам точно не подходят по объективным причинам и знает, почему их не нужно рассматривать. Этому же ученые могут научить и программы, созданные на основе искусственного интеллекта.

Важность открытия нового метода заключается в том, что раньше экспертам необходимо было исследовать один за другим сотни тысяч параметров по одному и вручную, чтобы понять, в чем заключается ошибка. А вот новый метод исследования позволяет группировать параметры так, что найти причину, по которой искусственный интеллект выдает ошибку, станет в разы проще. Поскольку ИИ в жизни человека может играть принципиально важную роль уже в ближайшем будущем, открытие 2022 года, возможно, подтолкнет науку в этой области к новым свершениям.

Мышление искусственного интеллекта действительно отличается от человеческого, но для того, чтобы работа в области развития ИИ продолжалась, ученые уже давно пришли к выводу, что необходима систематизация этих автоматических процессов, их объединение. Новые попытки упростить коммуникацию между человеком и искусственным интеллектом и перевести информацию «с технического на человеческий» действительно увенчались успехом. Анализировать работу ИИ станет в связи с новым открытием гораздо проще.

Если тебе интересно, может ли искусственный интеллект специально обманывать человека и делать ошибки, читай эту статью.

Метод «общего интереса»

Пользователь ИИ теперь сможет собирать, сортировать и ранжировать данные, объясняющие выбор машины. Назвали ученые новую функцию методом «общего интереса» — он включает в себя количественные показатели, которые в итоге и сравниваются между собой, что позволяет понять, насколько хорошо рассуждения модели соответствуют рассуждениям человека.

Общий интерес может помочь пользователю легко выявить тенденции в принятии решений ИИ. Например, обучаемую программу могут сбивать с толку отвлекающие, не относящиеся к делу объекты, такие как фоновые элементы на фотографиях.

Объединение этих сведений может помочь исследователю в короткие сроки определить, верен ли алгоритм размышлений ИИ и может ли он быть испробован в реальной ситуации.

Взаимопонимание становится возможным

При разработке нового метода были задействованы, в том числе, другие популярные методы, используемые при разработке программ на основе искусственного интеллекта, которые показывают, как модель машинного обучения принимает конкретное решение. Некоторые из них известны как «методы значимости». Именно они лежат в основе нового метода.

Если ИИ классифицирует изображения определенным образом — при помощи методов значимости программа выделяет области изображения, которые были важны для принятия решения. Это, в свою очередь, позволяет лучше понимать, как работает искусственный интеллект.

Эти области визуализируются в виде тепловой карты, называемой «картой заметности», которая затем накладывается на исходное изображение. Например, если ИИ классифицировал изображение как собаку и голова собаки выделена, это означает, что эти пиксели были важны для программы в тот момент, когда она решила, что на изображении есть собака.

ИИ в жизни человека: как работает метод

Технология общего интереса работает с помощью сравнения методов значимости с достоверными данными. В наборе данных изображения обычно представляют собой созданные человеком описания, окружающие соответствующие части каждого изображения.

В предыдущем примере помимо собаки, например, на фотографии была еще и коробка. При оценке изображений программа сравнивает сгенерированные данные значимости и данные, сгенерированные человеком, для одного и того же изображения, чтобы увидеть, насколько хорошо они совпадают.

Новый метод позволяет оценить конкретное решение и распределить его в одну из восьми категорий, которые полностью ориентированы на человека. Это как раз и упрощает работу специалистов, по скольку в ручную такие операции совершаются в разы дольше. Речь идет об экономии целых недель, месяцев, а может даже и лет, которые могли быть потрачены на ручную обработку данных. А теперь эту функцию возьмет на себя машина.

Исследователь центра Боггуст объясняет, как это работает: «На одном конце спектра ИИ принимает решение по той же причине, что и человек, а на другом конце спектра ИИ и человек принимают это решение по совершенно разным причинам. Определив эти данные количественно для всех изображений в вашем наборе данных, вы можете использовать эту количественную оценку для их сортировки».

Кстати, этот метод работает подобным образом и с текстовыми данными, среди которых выделяются ключевые слова вместо областей изображения. В дальнейшем ИИ будет обучен работе и с другими видами информации, что позволит в скором времени упростить с помощью ИИ еще больше процессов, занимающих сейчас еще достаточно много времени в жизни человека.

Думают ли люди и машины одинаково

Таким образом, для того, чтобы перевести полученные данные с машинного языка на человеческий, исследователи теперь затратят гораздо меньше времени. Теперь они могут довольно быстро проанализировать количественные показатели, чтобы понять, насколько рассуждения программы ИИ схожи с тем, что думает об этом человек. Это действительно прорыв, который позволит ускорить процесс обучения программ искусственного интеллекта и поможет ученым выявлять и устранять неточности проще и быстрее. За последние годы ИИ активно развивается благодаря подобным открытиям. По словам ученых, в ближайшие годы технологии искусственного интеллекта могут довольно сильно изменить нашу реальность, а значит роль ИИ в жизни человека способна сильно возрасти.

Выходит, что коммуникация между машиной и искусственным интеллектом выходит на новый уровень, а значит, взаимопонимание между человеком и машиной может быть найдено. Люди и машины пока еще не способны думать одинаково, но теперь программа с помощью нового метода способна оценить, насколько ее решение может быть схожим с человеческим.

Специалисты заявили, что новый метод может быть использован не только в научной среде для дальнейшего изучения и развития ИИ, но и будет полезен для тех, кто использует подобные алгоритмы уже сегодня при тестировании искусственного интеллекта, например, в области медицины.

Какие эксперименты были проведены

В одном из случаев с помощью метода общего интереса исследователи попробовали установить, может ли дерматолог доверять алгоритму ИИ, предназначенному для диагностики рака по фотографиям поражений кожи. Новый метод позволил дерматологу быстро увидеть примеры правильных и неправильных прогнозов модели.

В итоге дерматолог решил, что не может пока еще доверять алгоритму, поскольку ИИ делает слишком много прогнозов, основанных на схожих изображениях, а не на реальных примерах поражений кожи.

Исследователь Боггуст отмечает: «Ценность здесь в том, что, используя общий интерес, мы можем увидеть, как эти шаблоны проявляются в поведении нашей модели. Примерно через полчаса дерматолог смог принять уверенное решение о том, доверять ли модели и стоит ли ее использовать дальше».

В еще одном примере исследователи смогли проанализировать тысячи правильных и неправильных решений за сравнительно небольшой период времени, по сравнению с «ручным» изучением данных.

В третьем исследовании методика «общего интереса» помогла лучше классифицировать изображения, показав более высокие результаты по сравнению с методами, которые использовались ранее. В будущем исследователи планируют адаптировать новый метод ИИ к другим типам данных, например, к табличным, используемым в медицинских записях.

Ученые надеются, что новое открытие позволит людям лучше понимать алгоритмы ИИ, что выведет работу в этой области на новый уровень. Людям будет проще работать с искусственным интеллектом, поскольку им будет легче проанализировать, на каких данных строятся выводы той или иной программы. А это, в свою очередь, позволит быстрее устранять ошибки и сделать работу ИИ более совершенной.

Читай также: