Цель искусственного интеллекта должна заключаться не в том, чтобы обмануть людей, а в том, чтобы достигнуть понимания открытого мира и научиться действовать в нем способами, сравнимыми по своей полезности, эффективности и надежности с человеческой деятельностью. Более корректное тестирование подразумевает широкий спектр задач, таких как понимание человеческого языка, способность делать выводы о физическом и умственном состоянии людей, анализ видео на YouTube, владение элементарными научными знаниями и способность к автономному выполнению роботизированных операций. Цифровой помощник, который участвует в планировании свадебного торжества, должен не просто знать, что гостям в определенный момент требуется принести ножи и торт, он должен знать, почему это делается, то есть что ножи существуют для того, чтобы разрезать торты и другие блюда. Если бы однажды торт заменили специальными свадебными молочными коктейлями, то ножи, вероятно, вообще не понадобились бы, и здесь не имеет никакого значения, насколько сильно коррелировали ножи и свадьбы в предыдущих случаях. Вместо статистики у надежного цифрового помощника должно быть достаточно знаний о молочных коктейлях, чтобы понять, что ножи могут оставаться на своих местах, но зато может потребоваться дополнительная партия соломинок. Чтобы научить системы искусственного интеллекта хотя бы таким на первый взгляд элементарным вещам, нам уже нужно вывести обучение на новый уровень. Уроки, почерпнутые нами из анализа человеческого разума, заключаются в первую очередь в том, что мы должны почти всюду искать компромиссы. Более продвинутым вариантом тестирования может стать экзамен, на котором системе предлагается изучить некоторые видеоигры и затем перенести полученные навыки на другие игры. Еще более впечатляющим мог бы стать робот-ученый, который будет способен прочитать описания простых экспериментов в книжке типа "Сто научных экспериментов для детей", выполнить их, понять, что они доказывают, и предсказать, что произойдет, если вы поставите их немного по-другому. Теста Тьюринга для этого просто недостаточно, так что нам следует придумать что-то получше
