В последние пару лет в мире огромный интерес к GPT и прочим LLM. Отдельные человеки и компании пытаются с помощью них решить свои задачи и для этого предоставляют данные. Иногда конфиденциальные задачи и данные. Например, проанализировать медицинские анализы и дать рекомендации. Или посчитать финансовую аналитику и залить для этого конфиденциальные показатели/цифры. Или помочь разработать алгоритм программы и залить контекст, по которому ясно для чего эта программа нужна и для кого она. Таких запросов с медицинской / банковской / налоговой / коммерческой и прочими тайнами масса и без передачи конфиденциального контекста они не всегда решаются. Вычислить конкретного заказчика в современном мире не составляет большого труда, как и сделать его профилирование на основе всей добровольно переданной информации.
Отсюда закономерный вопрос: как что-то спросить у ИИ и не раскрыть чувствительную инфу? Напрашивается очевидное решение — использовать локальный ИИ на своём железе и со своей моделью. Но железо дорогое, а качественную модель бесплатно не предоставят, такая корова и самому нужна. И настраивать, обучать это всё тоже дорогое дело и не для каждой компании. Облака и ИИ как сервис пока что (и вероятно надолго) это единственное доступное многим решение.
Другое решение: размыть чувствительные данные среди подобных других. К примеру Алиса предоставляет Бобу в облако 1000 вариантов контекста, из которых один настоящий, а другие сгенерированные мусорные. Алиса знает какой именно запрос настоящий, но Бобу придётся просчитать все и возможно ещё и доучиться на мусорных вариантах (привет GIGO). Также Боб может найти закономерность в мусорных вариантах, распознать их, выбросить мусорные вариант и может даже найти истинный вариант. Или как минимум сильно сузить множество.
Ещё возможное решение — криптопротокол вычислений. То есть Алиса передаёт Бобу данные для вычислений, но таким способом, чтобы Боб вычисление сделал, но сути этих вычислений понять не смог. Общего такого протокола, насколько мне известно, нет для обычных вычислений. И тем более нет для ИИ, где ИИ необходимо "понять" запрос.
С криптопротолом для запросов к ИИ можно аналогично задаться вопросом о криптопротоколе для обучения моделей. То есть Алисе обучить модель на некоторых данных, суть которых Бобу-вычислителю недоступна.
Задача с криптопротоколом пока кажется принципиально нерешаемой: ИИ каким-то способом необходимо понимать структуру данных и сам запрос. Но если эта задача таки решаема, то это ещё одна грандиозная disruptive innovation, которая позволит сильно расширить применение ИИ. Пока такое кажется фантастикой.
В любом случае госы будут против. Тогда будут моделям будут задавать разные неудобные вопросы, которые закрыть принципиально не получится. Такая технология, если появится, сильно поменяет мир.