Кали Дургампуди является президентом и генеральным директором компании Апприо.
Автоматизация все чаще интегрируется в нашу повседневную жизнь. Каждый раз, когда мы используем умное домашнее устройство или ярлык на iPhone, автоматически планируем оплату счета или составляем отчет о расходах, где-то в процессе есть набор программных правил, которые следуют заранее установленным шаблонам для выполнения определенных задач.
По мере того как мы становимся более опытными в области технологий, мы постоянно хотим, чтобы они делали больше с меньшими усилиями. Автоматизация – единственный способ удовлетворить этот постоянно растущий спрос на эффективность. Это отличается от искусственного интеллекта, который разработан для изучения прошлых опытов и принятия решений на основе новых данных. Но автоматизация является первым шагом к продвинутому искусственному интеллекту, и пока мы наслаждаемся ее преимуществами в эффективности, мы должны также осознавать проблемы, которые она представляет, по мере увеличения ее распространения.
Конфиденциальность и навязчивость – основные проблемы, вызванные увеличением автоматизации. Это, вероятно, уже случалось с вами: вы ищете что-то на Amazon, например, кроссовки, и вдруг начинаете получать рекламу кроссовок в Instagram. Возможно, ваша первая мысль: что еще эти компании знают обо мне, о чем я им не говорил? Ответ, вероятно, больше, чем вы знаете.
Автоматизация часто включает сбор и анализ персональных данных, с алгоритмами, отслеживающими поведение потребителей, их предпочтения и онлайн-активности. Это может быть раздражающим или вредным, поэтому компании должны ответственно управлять данными пользователей и соблюдать нормативные акты о конфиденциальности, такие как GDPR. Они должны принимать сильные меры безопасности и быть прозрачными в использовании данных. Они должны использовать анонимизированные данные при возможности.
Своей части пользователи могут обращать внимание на настройки конфиденциальности, такие как двухфакторная аутентификация, и блокировать куки в браузерах. Обучайте себя правам конфиденциальности и следуйте лучшим практикам безопасности, например, не участвуйте в опросах без анонимизации ваших данных.
Автоматизированные решения могут вызывать этические дилеммы, когда их решения напрямую влияют на жизни людей. Например, автоматизированный алгоритм найма может непреднамеренно дискриминировать определенные группы. Чтобы этого избежать, компании должны разрабатывать этические принципы для автоматизации, чтобы обеспечить справедливость и поддерживать прозрачность в алгоритмическом принятии решений.
По мере того как все больше задач становятся автоматизированными, понятно, что люди беспокоятся о том, что новые технологии уничтожат рабочие места. Исследования показывают, что скорее всего это не так; Всемирный экономический форум оценивает, что к 2025 году технологии создадут как минимум на 12 миллионов рабочих мест больше, чем уничтожат. В любом случае автоматизация точно изменит виды деятельности, поэтому компании должны инвестировать в программы повышения квалификации для своих сотрудников, которых затронет автоматизация.
Ключевой вопрос для решения, по мере того как автоматизация все более становится частью нашей жизни, – кому принадлежат данные, необходимые для работы этих процессов. Если я иду в больницу на какие-то обследования, принадлежат ли эти данные мне или больнице? Кому именно принадлежат все персональные данные, которые Facebook собрал о вас за годы?
Традиционно организации утверждали свое право на данные, которые генерируются в их системах. Однако этот модель быстро эволюционирует с ростом прав индивидуумов и обеспокоенности конфиденциальностью. В здравоохранении пациенты имеют право на свои медицинские данные, включая результаты диагностики, медицинскую историю и записи о лечении. Однако, в областях, таких как социальные медиа и электронная торговля, мы должны иметь контроль над нашими собственными персональными данными.
Анонимизация станет ключом к решению этой проблемы. Удаление лично идентифицируемой информации из данных позволяет обмен данными для исследований, сохраняя при этом права человека на конфиденциальность. Разработчики стремятся создать решения и найти баланс между удобством, контролем и правами потребителей. Коллективно нам нужно найти способ совместно и анонимно делиться данными – правительство, технологические поставщики и потребители вместе.
Хотя автоматизация вызывает обоснованные опасения, она представляет собой важную промежуточную фазу на пути к более продвинутому искусственному интеллекту. Она заложит основу для эффективности и надежности, а также позволит организациям освободить ресурсы и создать основу для внедрения решений искусственного интеллекта в будущем. Если мы направляем процесс через образование и сотрудничество между заинтересованными сторонами, мы можем убедиться, что автоматизация не должна восприниматься как что-то страшное, а быть принятой. Фактически, это может быть единственным способом удовлетворить неутолимую жажду и потребность в более продвинутой технологии, которая растет нелинейно по сравнению с доступными программными продуктами.
Совет по технологиям Forbes – это сообщество, доступное только по приглашениям для первоклассных главных информационных офицеров, технических директоров и руководителей технологий. Подхожу ли я?
