Анкит Вирмани – эксперт по этичному искусственному интеллекту и инженерии данных в Google, сосредоточенный на успешном пути данных и машинного обучения клиентов.
Интеграция генеративного искусственного интеллекта, в частности, больших языковых моделей (БЯМ), в процессы разработки программного обеспечения открывает множество возможностей для повышения производительности и инноваций. Однако руководителям технологий также необходимо умело управлять вызываемыми этими мощными инструментами вызовами. В статье рассматриваются основные проблемы, связанные с использованием генеративного искусственного интеллекта в разработке программного обеспечения, и предлагаются практические стратегии по преодолению этих препятствий на основе реальных примеров.
Одной из основных проблем использования генеративного искусственного интеллекта в разработке программного обеспечения является обеспечение качества и надежности создаваемого кода. Хотя БЯМ могут генерировать синтаксически правильный код, они не всегда создают функционально правильные или оптимизированные решения. Если это остается без контроля, это может привести к ошибкам, уязвимостям безопасности и проблемам производительности.
Пример: Разрабатывающаяся команда в финансовом учреждении использовала БЯМ для генерации кода для критической торговой системы. Хотя созданный код успешно скомпилирован, он содержал тонкие логические ошибки, которые вызвали неправильные вычисления и потенциальные финансовые потери. Команде потребовалось много времени на отладку и исправление созданного кода.
Стратегия: Руководители технологий должны установить строгое тестирование и процессы проверки кода для преодоления этой проблемы. Разработчики должны рассматривать код, созданный искусственным интеллектом, как отправную точку и подвергать его всеобъемлющему модульному тестированию, интеграционному тестированию и кодовому обзору. Внедрение инструментов статического анализа кода и непрерывной поставки/непрерывного развертывания (CI/CD) может помочь выявлять проблемы качества на ранних стадиях цикла разработки.
Генеративные модели искусственного интеллекта, включая БЯМ, могут перенять предвзятости и дискриминационные шаблоны из данных, на которых они обучены. Эти предвзятости могут проникнуть в создаваемый код, если не будут устранены, что может привести к несправедливым или дискриминационным результатам.
Пример: Компания электронной коммерции использовала БЯМ для генерации алгоритмов рекомендации продуктов. Однако созданный код демонстрировал предвзятости на основе пола и расы, что привело к неравным рекомендациям в пользу определенных демографических групп. Эта предвзятость вызвала жалобы клиентов и нанесла урон репутации компании.
Стратегия: Руководители технологий должны придавать приоритет справедливости и устранению предвзятостей при использовании генеративного искусственного интеллекта. Это включает тщательный отбор обучающих данных для обеспечения разнообразия и репрезентативности, регулярное проведение проверок на предмет справедливости и внедрение методов обнаружения и устранения предвзятостей. Сотрудничество с этиками и разнообразными заинтересованными сторонами может помочь выявить и устранить потенциальные предвзятости на ранних стадиях процесса разработки.
Использование генеративного искусственного интеллекта в разработке программного обеспечения вызывает вопросы об интеллектуальных правах и правильном указании авторства. Поскольку БЯМ создают код на основе выявленных из существующих кодовых баз шаблонов, может возникнуть недопонимание относительно владения и лицензирования созданного кода.
Пример: Стартап использовал БЯМ для генерации значительной части своей кодовой базы. Однако при поиске финансирования инвесторы высказали опасения относительно интеллектуальных прав на созданный код и потенциальных юридических рисков, связанных с использованием кода, созданного искусственным интеллектом, без должного указания авторства.
Стратегия: Руководители технологий должны установить четкие политики и руководящие принципы по использованию генеративного искусственного интеллекта в разработке программного обеспечения. Это включает определение моделей владения и лицензирования для созданного искусственным интеллектом кода, обеспечение соблюдения лицензий с открытым исходным кодом и внедрение механизмов корректного указания авторства. Консультирование с юридическими экспертами, специализирующимися на интеллектуальной собственности и искусственном интеллекте, может помочь разрешить эти сложные вопросы.
Принятие генеративного искусственного интеллекта в разработке программного обеспечения может потребовать от разработчиков усвоения новых навыков и адаптации к новым рабочим процессам. Некоторые разработчики могут почувствовать угрозу от возможности искусственного интеллекта автоматизировать определенные задачи и опасения потери рабочих мест.
Пример: Компания по разработке программного обеспечения представила инструмент генерации кода на основе БЯМ для увеличения производительности. Однако некоторые старшие разработчики сопротивлялись использованию инструмента, опасаясь, что это сделает их экспертизу устаревшей и приведет к потере рабочих мест.
Стратегия: Технологические лидеры должны рассматривать интеграцию генеративного искусственного интеллекта как возможность повысить квалификацию и уполномочить разработчиков. Предоставление программ обучения и образовательных программ по эффективному использованию инструментов искусственного интеллекта может помочь разработчикам адаптироваться к изменяющейся среде. Подчеркивание роли человеческой экспертизы в решении проблем, проектировании систем и креативности может смягчить опасения от потери рабочих мест. Содействие культуре сотрудничества и непрерывному обучению может помочь разработчикам воспринимать искусственный интеллект как ценный инструмент, а не как угрозу.
Процессы принятия решений моделей генеративного искусственного интеллекта могут быть непрозрачными, что затрудняет понимание, как они приходят к конкретным предложениям кода или решениям. Этот недостаток объяснимости и прозрачности может быть проблематичным, особенно в регулируемых отраслях или при работе с чувствительными данными.
Пример: Компания по разработке программного обеспечения для здравоохранения использовала БЯМ для генерации кода для анализа данных пациентов. Однако при проверке регулирующими органами компания испытала трудности с объяснением того, как созданный код обрабатывает и защищает данные пациентов, что привело к проблемам с соблюдением и потенциальным штрафам.
Стратегия: Руководители технологий должны отдавать приоритет объяснимости и прозрачности при использовании генеративного искусственного интеллекта в разработке программного обеспечения. Сотрудничество с исследователями и поставщиками искусственного интеллекта для разработки техник объяснимого искусственного интеллекта может помочь предоставить инсайты в обоснование созданного кода. Внедрение журнализации и аудиторских механизмов может отслеживать использование созданного искусственным интеллектом кода и обеспечить ответственность. Регулярная коммуникация ограничений и неопределенностей, связанных с генеративным искусственным интеллектом, заинтересованным сторонам может помочь установить соответствующие ожидания.
Использование генеративного искусственного интеллекта в разработке программного обеспечения открывает как возможности, так и вызовы для технологических лидеров. Организации могут использовать мощь генеративного искусственного интеллекта, минуя потенциальные риски, путем активного решения проблем, таких как качество кода, предвзятость, интеллектуальная собственность, развитие навыков и объяснимость. Установление ответственных практик искусственного интеллекта, содействие культуре сотрудничества между людьми и искусственным интеллектом и непрерывное обучение и адаптация к новым технологиям будут критически важными для успеха в эпоху разработки программного обеспечения с помощью искусственного интеллекта. Посредством стратегического преодоления этих вызовов технологические лидеры могут раскрыть все возможности генеративного искусственного интеллекта и стимулировать инновации в отрасли разработки программного обеспечения.
Forbes Technology Council – это сообщество по приглашениям для первоклассных главных информационных офицеров, технических директоров и руководителей технологий. Подхожу ли я?
