Google пояснює, як покращує свої AI Overviews

Google повідомив, що лише один із кожних 7 мільйонів унікальних запитів призводить до порушення політики Google.

Google відреагував на критику AI Overviews у новому дописі в блозі від нового голови пошуку, Ліз Рейд. Google пояснив, як працюють AI Overviews, звідки взялися дивні AI Overviews, а також які покращення вже зроблені та будуть продовжуватися в майбутньому.

Однак, Google заявив, що користувачі “мають вищу задоволеність результатами пошуку та ставлять довші, складніші запитання, з якими Google тепер може допомогти”, і, по суті, ці AI Overviews нікуди не зникнуть.

Відгуки такі ж хороші, як і фрагменти відповідей

Google заявив, що AI Overviews “дуже ефективні”, і згідно з внутрішніми тестами, “рівень точності AI Overviews на рівні з фрагментами відповідей”. Фрагменти відповідей також використовують AI, неодноразово зазначав Google.

Ніяких галюцинацій

AI Overviews загалом не вигадують речі, написала Ліз Рейд. AI Overviews не “викривлюють реальність так, як інші продукти на основі великих мовних моделей можуть це робити”, додала вона. AI Overviews зазвичай помиляються, коли Google “неправильно інтерпретує запити, неправильно розуміє нюанси мови в інтернеті або коли немає багато гарної інформації”, написала вона.

Чому виникають “дивні результати”?

Google пояснив, що ретельно тестував AI Overviews перед випуском і був готовий до його запуску. Але Google також зазначив, що люди намагалися змусити AI Overviews повертати дивні результати. “Ми також бачили безглузді нові пошукові запити, очевидно спрямовані на отримання хибних результатів,” написав Google.

Крім того, Google написав, що люди підробляли багато прикладів, маніпулюючи скріншотами, які показують фальшиві AI-відповіді. “Ті AI Overviews ніколи не з’являлися,” сказав Google.

Деякі дивні приклади все ж виникли, і Google буде робити покращення у таких випадках. Google не буде вручну налаштовувати AI Overviews, а натомість покращувати моделі, щоб вони працювали для більшої кількості запитів. “Ми не просто “виправляємо” запити один за одним, але працюємо над оновленнями, які можуть допомогти широкому спектру запитів, включаючи нові, які ми ще не бачили,” написав Google.

Google говорив про “вакуум даних”, який ми вже кілька разів обговорювали тут. Наприклад, “Скільки каменів мені слід з’їсти?” – це запит, який ніхто раніше не шукав і не мав хорошого контенту на цю тему. Google пояснив: “Однак, у цьому випадку є сатиричний контент на цю тему … який також був опублікований на веб-сайті постачальника геологічного програмного забезпечення. Тож коли хтось ввів це питання в Пошук, AI Overview з’явився, посилаючись на один із небагатьох веб-сайтів, що розглядали це питання.”

Покращення AI Overviews

Google поділився деякими покращеннями, які вже зроблено для AI Overviews, пояснивши, що буде продовжувати вдосконалювати їх у майбутньому. Ось що Google сказав, що зробив на сьогоднішній день:

• Побудував кращі механізми для виявлення безглуздих запитів, для яких не повинно показуватися AI Overview, і обмежив включення сатиричного та гумористичного контенту.
• Оновив свої системи для обмеження використання користувацького контенту у відповідях, які можуть запропонувати хибні поради.
• Додав обмеження на тригерні запити, для яких AI Overviews не виявлялися настільки корисними.
• Для тем, таких як новини та здоров’я, Google вже має сильні захисні механізми. Наприклад, Google заявив, що прагне не показувати AI Overviews для важливих новин, де важлива актуальність і достовірність. У випадку з охороною здоров’я, Google заявив, що запустив додаткові уточнення для покращення якості захисту.

Нарешті, “Ми будемо продовжувати вдосконалювати, коли і як ми показуємо AI Overviews та зміцнювати наші захисні механізми, включаючи крайові випадки, і ми дуже вдячні за постійний зворотний зв’язок,” завершила Ліз Рейд.

Чому це важливо?

Здається, що AI Overviews нікуди не зникнуть, і Google продовжить показувати їх користувачам і розширювати їхнє використання в інших країнах та для більшої кількості користувачів у майбутньому. Ви можете очікувати, що вони стануть кращими з часом, оскільки Google продовжує отримувати зворотний зв’язок і вдосконалювати свої системи.

До того часу, ми впевнені, що побачимо ще більше прикладів неточних і іноді смішних AI Overviews, подібних до тих, які ми бачили, коли вперше запускалися фрагменти відповідей.

Ця стаття доступна англійською.

Google Responds to Criticism of AI Overviews