Содержание
База знаний
Персональные инструменты
- Создать учётную запись
- Войти
Пространства имён
- Заглавная
- Обсуждение
Просмотры
- Просмотр
- Просмотр кода
- История
Материал из База знаний
Перейти к навигацииПерейти к поиску
Здесь размещена в основном неофициальная информация, собранная и проверенная участниками телеграм-сообщества "Яндекс Станция, Умный дом и устройства с Алисой". Также обратите внимание на Доску yaboard.com, где мы собираем пожелания пользователей по колонкам с Алисой, Умному дому и другим направлениям. Подробнее смотрите страницу " Как всё устроено".
Умные колонки и Алиса
Первое знакомство
- FAQ по Алисе, Умному дому, подпискам
- Где купить Яндекс.Станцию?
- Красная Станция и её отличия
- Перепродажа красной Станции
- Яндекс Станция Макс
- Что такое Навыки?
- Дела, напоминания, будильники и таймеры
- Справочник команд Алисы (неофициальный)
- Что может колонка без подписки
- Колонки с Алисой за пределами России
- Музыка на Станции
- Инструкции к умным колонкам
- Что важно знать о промокодах
- Где найти идентификатор устройства
Продвинутое
- Список радиостанций для умных колонок
- Карманный справочник по подпискам Яндекса
- Безопасный поиск через Алису
- Рекомендации по размещению умной колонки
- Световая индикация Яндекс. Станции
- Умная колонка в автомобиле
- Как отправить видео YouTube на Станцию
- Как «пробудить» колонку удалённо
- Отправка видео с Яндекс.Диска
- Ярлык для звонков на Станцию (Android)
- 3D-модель кожуха для Яндекс.Станции
- 3D-модели полок и подвесок для умных колонок
- Станция Мини и динамик от Google Nest
Решение проблем
- У меня проблемы!
- Сброс и перезагрузка умной колонки
- Решение проблем с Wi-Fi
- Подключение колонок к Wi-Fi c авторизацией
- Подключение Bluetooth без Интернета
- Проблемы с подключением BT
- Модуль теряет колонку
- Ремонт Станции и других умных колонок
- Станция в умной розетке периодически вспыхивает
- Станция бьёт меня током!
- Простая электрозащита в доме
- Умные колонки, прошивки, релизноутсы и облака
- Управление воспроизведением и громкостью со смартфона
- Хочу персональные новости!
- Ошибка воспроизведения Youtube-видео
- Проблемы за границей РФ
Умный дом Яндекса
Первое знакомство
- Что такое Умный дом (УД)?
- Хорошие имена и названия для УД
- Приложение Дом с Алисой и apk
- Веб-интерфейс «квазар» — что это?
- Отложенные команды
- Яндекс. Лампочка и Яндекс.Розетка
- Яндекс.Пульт
- Aliceduino: маленькая плата с Алисой
- Устройства для Яндекс Станции 2
- Подключение устройств eWeLink
- Подключение устройств Tuya
- Подключение устройств Xiaomi
- Подключение устройств Polaris IQ Home
- Подключение устройств Redmond
- Подключение устройств Z-Wave
- Где что купить для Алисы? (Aliexpress, Беру итд)
- Умный дом в Яндекс. Маркете
Продвинутое
- Алиса и Почтовый помощник на колонках
- Алиса управляет компьютером
- Алиса ищет потерянный телефон
- Алиса заводит автомобиль (IFTTT)
- Алиса заводит автомобиль (HomeAssistant)
- Алиса открывает автоматические ворота
- Алиса управляет домофоном
- Алиса и умные жалюзи Smart Blinds
- Алиса + Integromat, IFTTT, Zapier и Google Contacts
- Алиса управляет УД через Node-RED
- Алиса, Ардуино и Blynk
- Алиса и ioBroker
- IoBroker от 0 до 100
- Алиса, IoBroker и MQTT
- MQTT-шлюз для Redmond своими руками
- Алиса и Home Assistant
- Алиса запускает сценарии Mi Home
- Алиса отправляет сообщения в Telegram
- Умный освежитель своими руками
- Многофункциональный навык УДЯ на Zeit Now
- Подключение Яндекс. Станции и Xiaomi MiBox к одному экрану
- Управляем Андроид смартфоном и Андроид-ТВ
- Алиса и обучаемый ИК-пульт DIY
- Читаем данные с датчиков (DHT11, Blynk, Aimylogic)
- Метеостанция без метеостанции
- Очень умная новогодняя ёлка
- Aqara Hub Китай и европейский сервер
Решение проблем
- Не работают команды управления светом
- Несколько команд в одном сценарии
- Ярлык с токеном на несколько сценариев (Android)
- Обучаем Яндекс.Пульт любым устройствам
- Ошибка Пульта ‘Нет связи с устройством’
- Авторизация навыка умного дома через Паспорт
- Ярлык на Устройства («квазар») на рабочем столе
- Устройства Mi Home из разных регионов
- Не видны устройства из Tuya (спойлер: Digma)
- Подключение Lonsonho через Digma
- Интеграция Roborock S5 Max
- Алиса управляет любыми устройствами Mi Home
- Мерцание, жужжание: выключатели и умные розетки
- Проблемы с подключением различных устройств
- Подключение Sonoff через Mi Home
- Критика LED-ленты Rubetek
- Отвязка аккаунта Mi Home
- Не удаётся удалить устройство
- Приглушение ТВ на время команды
- Выключатели: с нулём или без нуля
- Ноль для умного выключателя — из люстры
- Ложные включения на умных выключателях
- Release notes Умного дома
Диалоги и Навыки
- FAQ по Навыкам для пользователей
- Навыки-победители Премии Алисы
- Вся подборка «Навыки среды»
- FAQ по Навыкам для авторов
- Школа Алисы
- Интерфейсы от командной строки до голоса
- Нюансы создания Навыков
- Prompt-листы ответов в навыках
- Как реагировать на мат в навыках
- Если навыку на ответ надо больше 3 секунд. ..
- Fullchain-сертификаты и как их добыть
- Произвольные ссылки в url button
- Навыки и авторское право
- Где брать медиаконтент для навыков
- Размеры изображений в Навыках
- Что ещё прочитать по Навыкам
- Кнопки, изображения, подсказки в Диалогах
Другие сервисы и продукты
Яндекс.Музыка
- 4 способа перенести треки из Вконтакте в Яндекс.Музыку
- Подкасты с Алисой!
- Как поделиться музыкой
- Как добавить исполнителя на Яндекс.Музыку
- Аудиокниги в Яндекс.Музыке
- Как получить статистику Яндекс.Музыки
- Сколько музыки я наслушал в 2019?
- Алиса не включает мой плейлист
Ссылки и сторонние публикации
Главное о Вики и Доске
- Как всё устроено
- Статус вики и Доски багов и предложений
- Как создать статью на Вики?
- Где попросить/заказать статью
- Список всех категорий вики
- Как пользоваться Доской yaboard. com
- Ничего, ничего не делается! 😉
Публикации и обзоры
- Как Алису кофе варить научили
- Яндекс.Станция от прототипа до реального устройства
- Как Яндекс создавал первое устройство с Алисой
- Станция Мини: большая история маленького устройства
- Как рекомендовать музыку, которую почти никто не слушал
- Как работает Яндекс.Локатор
- Спецвыпуск на ЯМузыке: День рождения Алисы
Ресурсы Яндекса
- Адреса и рекомендации по обратной связи
- Квазар: веб-интерфейс Умного дома и колонок
- Квазар: настройки аккаунта
- Что нового? (release notes)
Интересные сторонние статьи
- Гайд по голосовому UX
- Дом-дурачок 2.0 Как автоматизировать свою однушку
- Бомж Умный дом, часть 4
Статистика Базы знаний на 02-05-2023: Внесено страниц на вики: 1659 (175), загружено файлов 1358. Общее количество правок: 7746. Зарегистрировано пользователей: 932.
Яндекс.Диск — описание, обзор, цены, функции и параметры. Wiki-сервисы
- CRM-системы
- Таск-менеджеры и баг-трекеры
- Платежные системы и инструменты
- Инструменты для дизайна и проектирования
- Мессенджеры для работы
- Фреймворки: бэкенд и фронтенд
- Языки программирования
- Мобильные платформы / ОС
- Среды разработки (IDE)
- Сервисы для ведения Wiki
- Сервисы-репозитории
- Mobile-статистика
- Mobile-тестирование
- Веб-статистика
- Базы данных (СУБД)
- Системы контроля версий
- Серверные операционные системы
- Панели управления хостингом
- Краш-репортеры
- Бухгалтерия
Я
Подрядчик
|
Заказчик
Согласен на обработку данных
Яндекс. Диск — описание, обзор, цены, функции и параметры. Wiki-сервисы
Год создания | 2012 |
Веб версия | ✔ |
Хранение данных | |
Поддерживаемые ОС | |
Мобильное приложение |
Бесплатная версия | ✔ |
← Google Sites | Evernote → |
# | Название | |
---|---|---|
1 | Битрикс24 | |
2 | Google Drive | |
3 | Confluence | |
4 | Redmine | |
5 | Dropbox | |
6 | MediaWiki | |
7 | DokuWiki | |
8 | GitHub | |
9 | Basecamp | |
9 | Google Sites | |
10 | Яндекс. Диск | |
10 | Evernote | |
10 | Hackpad | |
11 | Мегаплан | |
11 | Bitbucket | |
11 | XMind |
Яндекс собирает данные Google и других специалистов по SEO из утечки исходного кода
«Фрагменты» кодовой базы Яндекса просочились в сеть на прошлой неделе. Как и Google, Яндекс — это платформа со многими аспектами, такими как электронная почта, карты, служба такси и т. д. Утечка кода содержала фрагменты всего этого.
Согласно документации, кодовая база Яндекса была объединена в один большой репозиторий под названием Arcadia в 2013 году. Утекшая кодовая база является подмножеством всех проектов в Arcadia, и мы находим в ней несколько компонентов, связанных с поисковой системой в «Ядре», Архивы «Библиотека», «Робот», «Поиск» и «ExtSearch».
Совершенно беспрецедентный ход. С тех пор, как в данных поисковых запросов AOL за 2006 год не было ничего такого, что могло бы стать достоянием общественности, материалы, относящиеся к поисковой системе.
Хотя нам не хватает данных и многих файлов, на которые есть ссылки, это первый пример реального взгляда на то, как современная поисковая система работает на уровне кода.
Лично я не могу смириться с тем, какое фантастическое время для того, чтобы увидеть код, когда я заканчиваю свою книгу «Наука SEO», где я рассказываю о поиске информации, о том, как на самом деле работают современные поисковые системы, и как самому построить простую.
В любом случае, я разбирал код с прошлого четверга, и любой инженер скажет вам, что времени недостаточно, чтобы понять, как все работает. Итак, я подозреваю, что будет еще несколько постов, пока я продолжаю возиться.
Прежде чем мы начнем, я хочу поблагодарить Бена Уиллса из Онтоло за то, что он поделился со мной кодом, указал мне начальное направление, где находится хороший материал, и ходил со мной туда и обратно, пока мы расшифровывали. вещи. Не стесняйтесь взять электронную таблицу со всеми данными, которые мы собрали о факторах ранжирования, здесь.
Кроме того, спасибо Райану Джонсу за то, что он покопался и поделился со мной некоторыми важными выводами через мгновенные сообщения.
Ладно, приступим!
Это не код Google, так какое нам дело?
Некоторые считают, что просмотр этой кодовой базы отвлекает и что ничто не повлияет на то, как они принимают бизнес-решения. Я нахожу это любопытным, учитывая, что это люди из того же SEO-сообщества, которое использовало модель CTR из данных AOL за 2006 год в качестве отраслевого стандарта для моделирования в любой поисковой системе в течение многих последующих лет.
Тем не менее, Яндекс — это не Google. Тем не менее, эти две современные поисковые системы продолжают оставаться на переднем крае технологий.
Инженеры-программисты обеих компаний участвуют в одних и тех же конференциях (SIGIR, ECIR и т. д.) и делятся результатами и инновациями в области поиска информации, обработки/понимания естественного языка и машинного обучения. Яндекс также присутствует в Пало-Альто, а Google ранее был в Москве.
Быстрый поиск в LinkedIn выявляет несколько сотен инженеров, которые работали в обеих компаниях, хотя мы не знаем, сколько из них на самом деле работали над поиском в обеих компаниях.
При более прямом совпадении Яндекс также использует технологии Google с открытым исходным кодом, которые были критически важны для инноваций в поиске, таких как TensorFlow, BERT, MapReduce и, в гораздо меньшей степени, Protocol Buffers.
Итак, хотя Яндекс — это, конечно, не Google, но и не какой-то случайный исследовательский проект, о котором мы здесь говорим. Изучив эту кодовую базу, мы можем многое узнать о том, как устроена современная поисковая система.
По крайней мере, мы можем избавиться от некоторых устаревших представлений, которые все еще пронизывают инструменты SEO, таких как соотношение текста и кода и соответствие W3C, или общее мнение, что 200 сигналов Google — это просто 200 отдельных функций на странице и за ее пределами, а не классы составных факторов, которые потенциально могут использовать тысячи отдельных показателей.
Некоторый контекст архитектуры Яндекса
Без контекста или возможности успешно скомпилировать, запустить и выполнить пошаговое выполнение исходного кода очень сложно понять.
Как правило, новые инженеры получают документацию, обзоры и занимаются парным программированием, чтобы освоиться с существующей кодовой базой. Кроме того, в архиве документов есть некоторая ограниченная документация по адаптации, связанная с настройкой процесса сборки. Тем не менее, код Яндекса также везде ссылается на внутренние вики, но они не просочились, а комментарии в коде также довольно скудны.
К счастью, Яндекс дает некоторое представление о своей архитектуре в общедоступной документации. Есть также пара патентов, опубликованных в США, которые помогают пролить свет. А именно:
- Реализованный компьютером способ и система для поиска в инвертированном индексе, имеющем множество списков рассылки
- Ранжирование результатов поиска
Когда я исследовал Google для своей книги, я получил гораздо более глубокое понимание структуры его систем ранжирования благодаря различным документам, патентам и выступлениям инженеров, основанным на моем опыте SEO. Я также потратил много времени, оттачивая свое понимание общих рекомендаций по поиску информации для поисковых систем. Неудивительно, что у Яндекса действительно есть некоторые передовые практики и сходства.
В документации Яндекса обсуждается двухраспределенная система краулеров. Один для сканирования в реальном времени под названием «Оранжевый краулер», а другой — для обычного сканирования.
Исторически у Google был индекс, разделенный на три сегмента: один для сканирования в реальном времени, один для регулярного сканирования и один для редко сканируемого. Этот подход считается лучшей практикой в IR.
Яндекс и Google различаются в этом отношении, но общая идея сегментированного сканирования, основанная на понимании частоты обновления, сохраняется.
Стоит отметить, что у Яндекса нет отдельной системы рендеринга для JavaScript. Они говорят об этом в своей документации и, хотя у них есть система визуального регрессионного тестирования на основе Webdriver под названием Gemini, они ограничиваются текстовым сканированием.
В документации также обсуждается сегментированная структура базы данных, которая разбивает страницы на инвертированный индекс и сервер документов.
Как и в большинстве других поисковых систем, процесс индексации создает словарь, кэширует страницы, а затем помещает данные в инвертированный индекс таким образом, чтобы были представлены биграммы и тригамы и их размещение в документе.
Это отличается от Google тем, что они давно перешли на индексацию на основе фраз, что означает, что n-граммы могут быть намного длиннее триграмм.
Однако система Яндекса также использует BERT в своем пайплайне, поэтому в какой-то момент документы и запросы конвертируются во вложения, а для ранжирования используются методы поиска ближайших соседей.
Процесс ранжирования становится более интересным.
В Яндексе есть слой под названием Метапоиск , где кэшированные популярные результаты поиска обслуживаются после обработки запроса. Если результаты там не найдены, то поисковый запрос отправляется на серию из тысяч разных машин в Базовый поиск слоя одновременно. Каждый создает список публикаций релевантных документов, а затем возвращает его в MatrixNet, приложение нейронной сети Яндекса для повторного ранжирования, чтобы построить поисковую выдачу.
Судя по видеороликам, в которых инженеры Google рассказывают об инфраструктуре поиска, этот процесс ранжирования очень похож на поиск Google. Они говорят о том, что технология Google находится в общих средах, где различные приложения находятся на каждой машине, а задания распределяются между этими машинами в зависимости от наличия вычислительной мощности.
Одним из вариантов использования является именно это, распределение запросов по набору машин для быстрой обработки соответствующих осколков индекса. Вычисление списков публикации — это первое место, которое нам нужно учитывать для факторов ранжирования.
В кодовой базе 17 854 фактора ранжирования
В пятницу после утечки неподражаемый Мартин Макдональд охотно поделился файлом из кодовой базы под названием web_factors_info/factors_gen.in. Файл взят из архива «Kernel» в утечке кодовой базы и содержит 1,922 фактора ранжирования.
Естественно, SEO-сообщество использовало этот номер и этот файл, чтобы охотно распространять новости о содержащихся в нем сведениях. Многие люди перевели описания и создали инструменты или Google Sheets и ChatGPT, чтобы разобраться в данных. Все они являются прекрасными примерами силы сообщества. Однако число 1922 представляет собой лишь один из многих наборов факторов ранжирования в кодовой базе.
Более глубокое погружение в кодовую базу показывает, что существует множество файлов факторов ранжирования для различных подмножеств систем обработки запросов и ранжирования Яндекса.
Прочесывая их, мы обнаруживаем, что всего существует 17 854 фактора ранжирования. В эти факторы ранжирования входят различные показатели, связанные с:
- Кликами.
- Время ожидания.
- Использование аналога Google Analytics от Яндекса, Метрики.
Существует также серия ноутбуков Jupyter, которые имеют дополнительные 2000 факторов помимо тех, что указаны в основном коде. Предположительно, эти блокноты Jupyter представляют собой тесты, в ходе которых инженеры рассматривают дополнительные факторы для добавления в кодовую базу. Опять же, вы можете просмотреть все эти функции с метаданными, которые мы собрали по всей кодовой базе, по этой ссылке.
Документация Яндекса также поясняет, что у них есть три класса факторов ранжирования: статические, динамические и те, которые связаны конкретно с поиском пользователя и тем, как он был выполнен. По их собственным словам:
В кодовой базе они указаны в файлах ранговых факторов с тегами TG_STATIC и TG_DYNAMIC. Факторы, связанные с поиском, имеют несколько тегов, таких как TG_QUERY_ONLY, TG_QUERY, TG_USER_SEARCH и TG_USER_SEARCH_ONLY.
Несмотря на то, что мы выявили 18 000 потенциальных факторов ранжирования на выбор, в документации, относящейся к MatrixNet, указано, что оценка строится на основе десятков тысяч факторов и настраивается на основе поискового запроса.
Это указывает на то, что среда ранжирования очень динамична, подобно среде Google. Согласно патенту Google «Структура для оценки функций оценки», у них уже давно есть что-то похожее, когда запускаются несколько функций и возвращается лучший набор результатов.
Наконец, учитывая, что в документации упоминаются десятки тысяч факторов ранжирования, мы также должны помнить, что в коде есть много других файлов, которые отсутствуют в архиве. Так что, вероятно, происходит что-то еще, чего мы не можем видеть. Это дополнительно иллюстрируется просмотром изображений в документации по подключению, на которых показаны другие каталоги, которых нет в архиве.
Например, я подозреваю, что в каталоге /semantic-search/ есть еще что-то связанное с DSSM.
Начальное взвешивание факторов ранжирования
Сначала я действовал, исходя из предположения, что кодовая база не имеет весов для факторов ранжирования. Затем я был потрясен, увидев, что файл nav_linear.h в каталоге /search/relevance/ содержит начальные коэффициенты (или веса), связанные с факторами ранжирования, в полном отображении.
Этот раздел кода выделяет 257 из 17 000+ факторов ранжирования, которые мы выявили. ( Совет Райану Джонсу за то, что он вытащил их и сопоставил с описаниями факторов ранжирования.) страница оценивается на основе ряда факторов. Хотя это упрощение, следующий снимок экрана является выдержкой из такого уравнения. Коэффициенты показывают, насколько важен каждый фактор, а результирующая вычисленная оценка будет использоваться для оценки релевантности страниц выбора.
Жестко закодированные значения позволяют предположить, что это не единственное место, где происходит ранжирование. Вместо этого эта функция, скорее всего, используется там, где первоначальная оценка релевантности выполняется для создания серии списков публикации для каждого сегмента, рассматриваемого для ранжирования. В первом патенте, упомянутом выше, они говорят об этом как о концепции независимой от запроса релевантности (QIR), которая затем ограничивает документы до их просмотра на предмет релевантности запроса (QSR).
Полученные списки сообщений затем передаются в MatrixNet с функциями запроса для сравнения. Таким образом, хотя мы не знаем специфики последующих операций (пока), эти веса по-прежнему ценны для понимания, потому что они говорят вам о требованиях, предъявляемых к странице, чтобы иметь право на набор вознаграждений.
Однако возникает следующий вопрос: что мы знаем о MatrixNet?
В архиве ядра есть код нейронного ранжирования и многочисленные ссылки на MatrixNet и «mxnet», а также множество ссылок на глубоко структурированные семантические модели (DSSM) по всей кодовой базе.
В описании одного из факторов ранжирования FI_MATRIXNET указано, что MatrixNet применяется ко всем факторам.
Коэффициент {
Индекс: 160
CppName: «FI_MATRIXNET»
Имя: «MatrixNet»
Теги: [TG_DOC, TG_DY NAMIC, TG_TRANS, TG_NOT_01, TG_REARR_USE, TG_L3_MODEL_VALUE, TG_FRESHNESS_FROZEN_POOL]
Описание: «MatrixNet применяется ко всем факторам — формула»
}
Также есть куча бинарных файлов, которые сами могут быть предварительно обученными моделями, но мне потребуется больше времени, чтобы разобраться в этих аспектах кода.
Сразу становится ясно, что существует несколько уровней ранжирования (L1, L2, L3) и набор моделей ранжирования, которые можно выбрать на каждом уровне.
В файле selection_rankings_model.cpp указано, что на каждом уровне процесса можно рассматривать разные модели ранжирования. Примерно так работают нейронные сети. Каждый уровень — это аспект, который завершает операции, и их комбинированные вычисления дают переупорядоченный список документов, который в конечном итоге отображается в виде поисковой выдачи. Я продолжу более глубокое погружение в MatrixNet, когда у меня будет больше времени. Для тех, кому нужен краткий обзор, ознакомьтесь с патентом ранжирования результатов поиска.
А пока давайте рассмотрим некоторые интересные факторы ранжирования.
Топ-5 факторов начального ранжирования с отрицательным весом
Ниже приводится список факторов начального ранжирования с наибольшим отрицательным весом с их весами и кратким пояснением, основанным на их описаниях, переведенных с русского языка.
- FI_ADV: -0,2509284637 -Этот фактор определяет, есть ли на странице реклама любого рода, и назначает самый высокий взвешенный штраф за один фактор ранжирования.
- FI_DATER_AGE: -0,2074373667 — этот коэффициент представляет собой разницу между текущей датой и датой документа, определенной функцией датирования. Значение равно 1, если дата документа совпадает с сегодняшней, 0, если документ старше 10 лет или если дата не определена. Это говорит о том, что Яндекс отдает предпочтение более старому контенту.
- FI_QURL_STAT_POWER: -0,1943768768 — этот коэффициент представляет собой количество показов URL-адреса, связанное с запросом. Похоже, они хотят понизить URL-адрес, который появляется во многих поисковых запросах, чтобы повысить разнообразие результатов.
- FI_COMM_LINKS_SEO_HOSTS: -0,1809636391 — этот коэффициент представляет собой процент входящих ссылок с «коммерческим» якорным текстом. Коэффициент возвращается к 0,1, если доля таких ссылок превышает 50%, в противном случае устанавливается в 0,
- FI_GEO_CITY_URL_REGION_COUNTRY: -0,168645758 — этот фактор — географическое совпадение документа и страны, из которой пользователь выполнял поиск. Это не совсем понятно, если 1 означает, что документ и страна совпадают.
Таким образом, эти факторы показывают, что для наилучшего результата вам следует:
- Избегать рекламы.
- Обновляйте старый контент, а не создавайте новые страницы.
- Убедитесь, что большинство ваших ссылок имеют фирменный анкорный текст.
Все остальное в этом списке находится вне вашего контроля.
Топ-5 положительно взвешенных факторов начального ранжирования
В дополнение, вот список положительных факторов ранжирования с наибольшим весом.
- FI_URL_DOMAIN_FRACTION: +0,5640952971 — этот фактор представляет собой странное маскирующее перекрытие запроса по сравнению с доменом URL-адреса. В качестве примера приведена Челябинская лотерея, сокращенно chelloto. Чтобы вычислить это значение, Яндекс находит перекрытые трехбуквенные слова (че, хел, лот, оло), смотрит, какая доля всех трехбуквенных сочетаний приходится на доменное имя.
- FI_QUERY_DOWNER_CLICKS_COMBO: +0,3690780393 — Описание этого фактора таково: «умное сочетание FRC и псевдо-CTR». Непосредственных указаний на то, что такое FRC, нет.
- FI_MAX_WORD_HOST_CLICKS: +0.3451158835 — этот фактор кликабельность самого важного слова в домене. Например, для всех запросов, в которых есть слово «википедия», нажмите на страницы википедии.
- FI_MAX_WORD_HOST_YABAR: +0.3154394573 — В описании фактора указано «наиболее характерное слово запроса, соответствующее сайту, согласно бару». Я предполагаю, что это означает ключевое слово, которое чаще всего ищут в панели инструментов Яндекса, связанную с сайтом.
- FI_IS_COM: +0.2762504972 — Дело в том, что домен .COM.
Другими словами:
- Играйте в словесные игры со своим доменом.
- Убедитесь, что это точка ком.
- Поощряйте людей искать ваши целевые ключевые слова в Яндекс Баре.
- Продолжайте получать клики.
Существует множество неожиданных начальных факторов ранжирования
Что более интересно в начальных взвешенных факторах ранжирования, так это неожиданные факторы. Ниже приводится список из семнадцати выделяющихся факторов.
- FI_PAGE_RANK: +0,1828678331 — PageRank — 17-й по значимости фактор в Яндексе. Ранее они полностью удалили ссылки из своей системы ранжирования, поэтому неудивительно, насколько низко она находится в списке.
- FI_SPAM_KARMA: +0.00842682963 — Спам-карма названа в честь «антиспамеров» и представляет собой вероятность того, что хост является спамом; на основе информации Whois
- FI_SUBQUERY_THEME_MATCH_A: +0,1786465163 — Насколько тесно тематически совпадают запрос и документ. это 19й наивысший взвешенный фактор.
- FI_REG_HOST_RANK: +0,1567124399 — у Яндекса есть фактор ранжирования хоста (или домена).
- FI_URL_LINK_PERCENT: +0,08940421124 — Отношение ссылок, анкорный текст которых является URL-адресом (а не текстом), к общему количеству ссылок.
- FI_PAGE_RANK_UKR: +0. 08712279101 — Есть конкретный украинский PageRank
- FI_IS_NOT_RU: +0.08128946612 — Хорошо, если домен не .RU. Судя по всему, русский поисковик не доверяет русским сайтам.
- FI_YABAR_HOST_AVG_TIME2: +0,07417219313 — это среднее время пребывания, согласно ЯндексБар
- FI_LERF_LR_LOG_RELEV: +0,06059448504 — это релевантность ссылки на основе качества каждой ссылки
- FI_NUM_SLASHES: +0,05057609417 — количество косых черт в URL является фактором ранжирования.
- FI_ADV_PRONOUNS_PORTION: -0,001250755075 — Доля местоимений на странице.
- FI_TEXT_HEAD_SYN: -0.01291908335 — Наличие в заголовке слов [запрос] с учетом синонимов
- FI_PERCENT_FREQ_WORDS: -0.02021022114 – Процент количества слов, которые являются 200 наиболее часто встречающимися словами языка, от количества всех слов текста.
- FI_YANDEX_ADV: -0,09426121965 – Уточняя неприязнь к рекламе, Яндекс наказывает страницы с рекламой Яндекса.
- FI_AURA_DOC_LOG_SHARED: -0,09768630485 — логарифм количества черепиц (областей текста) в документе, которые не уникальны.
- FI_AURA_DOC_LOG_AUTHOR: -0.09727752961 – Логарифм количества гонтов, на которых данный владелец документа признан автором.
- FI_CLASSIF_IS_SHOP: -0.1339319854 — Судя по всему, Яндекс будет меньше любить вас, если ваша страница — магазин.
Главный вывод из рассмотрения этих странных факторов ранжирования и множества факторов, доступных в кодовой базе Яндекса, заключается в том, что существует множество вещей, которые могут быть факторами ранжирования.
Я подозреваю, что заявленные Google «200 сигналов» на самом деле представляют собой 200 классов сигналов, где каждый сигнал является составным, состоящим из многих других компонентов. Во многом так же, как в Google Analytics есть параметры со многими связанными показателями, в поиске Google, вероятно, есть классы сигналов ранжирования, состоящие из многих функций.
Яндекс очищает Google, Bing, YouTube и TikTok
Кодовая база также показывает, что у Яндекса есть много парсеров для других веб-сайтов и их соответствующих сервисов. Для жителей Запада наиболее заметными из них являются те, которые я перечислил в заголовке выше. Кроме того, у Яндекса есть парсеры для множества незнакомых мне сервисов, а также парсеры для его собственных сервисов.
Что сразу бросается в глаза, так это то, что синтаксические анализаторы полностью укомплектованы. Извлекается каждый значимый компонент поисковой выдачи Google. На самом деле, любой, кто рассматривает возможность парсинга любого из этих сервисов, может сделать все возможное, чтобы просмотреть этот код.
Существует другой код, который указывает, что Яндекс использует некоторые данные Google как часть расчетов DSSM, но сами по себе 83 названных Google фактора ранжирования ясно показывают, что Яндекс довольно сильно опирался на результаты Google.
Очевидно, что Google никогда не станет копировать результаты Bing из другой поисковой системы и не будет полагаться на нее для расчетов основного рейтинга.
Яндекс имеет анти-SEO верхние границы для некоторых факторов ранжирования
315 факторов ранжирования имеют пороговые значения, при которых любое вычисленное значение, превышающее это, указывает системе, что эта функция страницы переоптимизирована. 39 из этих факторов ранжирования являются частью первоначально взвешенных факторов, которые могут препятствовать включению страницы в первоначальный список публикаций. Вы можете найти их в электронной таблице, на которую я дал ссылку выше, отфильтровав по столбцу «Коэффициент ранга» и «Анти-SEO».
С концептуальной точки зрения не будет надуманным ожидать, что все современные поисковые системы устанавливают пороговые значения для определенных факторов, которыми оптимизаторы исторически злоупотребляли, таких как анкорный текст, CTR или наполнение ключевыми словами. Например, говорят, что Bing использует злоупотребление мета-ключевыми словами как негативный фактор.
Яндекс продвигает «Vital Hosts»
В кодовой базе Яндекса есть ряд механизмов повышения. Это искусственные улучшения определенных документов, чтобы обеспечить более высокие оценки при рассмотрении для ранжирования.
Ниже приведен комментарий «мастера повышения», в котором говорится, что более мелкие файлы лучше всего выигрывают от алгоритма повышения.
Есть несколько типов бустов; Я видел один буст, связанный со ссылками, и я также видел серию «HandJobBoosts», которые, я могу только предположить, являются странным переводом «ручных» изменений.
Одно из этих усилений, которое мне показалось особенно интересным, связано с «Жизненно важными хостами». Где важным хостом может быть любой указанный сайт. В переменных конкретно упоминается NEWS_AGENCY_RATING, что наводит меня на мысль, что Яндекс дает повышение, которое искажает его результаты в пользу определенных новостных организаций.
Если не вдаваться в геополитику, это очень отличается от Google тем, что они были непреклонны в отношении того, чтобы не вводить подобные предубеждения в свои системы ранжирования.
Структура сервера документов
Кодовая база показывает, как документы хранятся на сервере документов Яндекса. Это полезно для понимания того, что поисковая система не просто делает копию страницы и сохраняет ее в своем кеше, она фиксирует различные функции в качестве метаданных, которые затем используются в последующем процессе ранжирования.
На приведенном ниже снимке экрана выделено подмножество тех функций, которые особенно интересны. Другие файлы с SQL-запросами предполагают, что сервер документов имеет около 200 столбцов, включая дерево DOM, длину предложений, время выборки, серию дат и оценку защиты от спама, цепочку перенаправления и информацию о том, переведен ли документ. Самый полный список, который мне встречался, находится в файле /robot/rthub/yql/protos/web_page_item.proto.
Что самое интересное в подмножестве здесь, так это количество используемых симхэшей. Симхэши — это числовые представления контента, и поисковые системы используют их для молниеносного сравнения для определения дублирующегося контента. В архиве роботов есть различные экземпляры, указывающие на то, что дублированный контент явно понижен.
Кроме того, в рамках процесса индексации кодовая база включает TF-IDF, BM25 и BERT в конвейере обработки текста. Непонятно, почему все эти механизмы существуют в коде, потому что в их использовании есть некоторая избыточность.
Кодовая база также содержит много информации о факторах ссылок и о том, как ссылки расставляются по приоритетам.
Калькулятор ссылочного спама Яндекса учитывает 89 факторов. Все, что помечено как SF_RESERVED, устарело. Там, где это предусмотрено, вы можете найти описания этих факторов в таблице Google, указанной выше.
Примечательно, что у Яндекса есть рейтинг хоста и некоторые баллы, которые, по-видимому, сохраняются в течение длительного времени после того, как сайт или страница заработали репутацию спама.
Еще одна вещь, которую делает Яндекс, — это просмотр копии на домене и определение наличия дублированного контента с этими ссылками. Это могут быть размещения ссылок по всему сайту, ссылки на дубликаты страниц или просто ссылки с одинаковым анкорным текстом с одного и того же сайта.
Это показывает, насколько тривиально не учитывать несколько ссылок из одного и того же источника, и разъясняет, насколько важно нацеливаться на большее количество уникальных ссылок из более разнообразных источников.
Что мы можем применить от Яндекса к тому, что мы знаем о Google?
Естественно, этот вопрос до сих пор волнует всех. Хотя, безусловно, между Яндексом и Google есть много аналогов, по правде говоря, только инженер-программист Google, работающий над поиском, может окончательно ответить на этот вопрос.
Но это неправильный вопрос.
Действительно, этот код должен помочь нам расширить наши представления о современном поиске. Коллективное понимание поиска во многом основано на том, что SEO-сообщество узнало в начале 2000-х посредством тестирования и из уст поисковых инженеров, когда поиск был гораздо менее непрозрачным. Это, к сожалению, не поспевает за быстрым темпом инноваций.
Понимание многих особенностей и факторов утечки Яндекса должно дать больше гипотез о вещах, которые нужно проверить и рассмотреть для ранжирования в Google. Они также должны ввести больше вещей, которые можно анализировать и измерять с помощью SEO-сканирования, анализа ссылок и инструментов ранжирования.
Например, мера косинусного сходства между запросами и документами, использующими встраивание BERT, может быть полезна для понимания по сравнению со страницами конкурентов, поскольку это то, что делают сами современные поисковые системы.
Во многом так же, как журналы поиска AOL уводят нас от угадывания распределения кликов в поисковой выдаче, кодовая база Яндекса уводит нас от абстрактного к конкретному, и наши утверждения «это зависит» могут быть лучше квалифицированы.
С этой целью эта кодовая база является подарком, который будет продолжаться. Прошли только выходные, а мы уже почерпнули очень убедительные выводы из этого кода.
Я предполагаю, что некоторые амбициозные SEO-инженеры, располагающие гораздо большим количеством свободного времени, будут продолжать копаться и, возможно, даже дополнять недостающее, чтобы скомпилировать эту штуку и заставить ее работать. Я также считаю, что инженеры различных поисковых систем также изучают и анализируют инновации, на которых они могут учиться и добавлять в свои системы.
Одновременно юристы Google, вероятно, готовят агрессивные письма о прекращении и воздержании, связанные со всей очисткой данных.
Мне не терпится увидеть эволюцию нашего пространства, которой руководят любознательные люди, которые максимально используют эту возможность.
Но, эй, если получение информации из фактического кода не имеет для вас ценности, вы можете вернуться к чему-то более важному, например, спорить о поддоменах и подкаталогах.
Мнения, высказанные в этой статье, принадлежат приглашенному автору и не обязательно принадлежат Search Engine Land. Штатные авторы перечислены здесь.
Яндекс Беспилотный автомобиль | Энциклопедия MDPI
Беспилотный автомобиль Яндекса (Группа самостоятельного вождения Яндекса) — проект роботакси российской интернет-корпорации Яндекс. Первый беспилотный прототип запущен в мае 2017 года. По состоянию на 2018 год функциональный сервис был запущен в России, а прототипы также проходят испытания в Израиле и США. В 2019 году Яндекс представил автономных роботов-доставщиков, основанных на том же стеке технологий, что и беспилотные автомобили компании. С 2020 года автономные роботы доставляют еду, продукты и посылки по России и США. В 2020 году проект автономного вождения был выделен в отдельную компанию под названием Yandex Self-Driving Group (Yandex SDG).
1. История
1.1. 2017
В июне 2017 года «Яндекс.Такси» выпустило видео, демонстрирующее технологию беспилотных автомобилей. [1] Прототип представлял собой сильно модифицированный гибридный универсал/компактный минивэн Toyota Prius+, оснащенный тремя оптическими датчиками расстояния LiDAR от Velodyne, шестью радарами, шестью камерами и датчиком GNSS для навигации, с процессорами Intel и графическими процессорами NVIDIA [2] с использованием операционной системы GNU с ядром Linux. [3] [4]
В ноябре 2017 года были представлены результаты зимнего испытания. Машина успешно ехала по заснеженным дорогам, несмотря на повышенные трудности, представляемые снегом. Автомобиль преодолел 300 км по закрытой трассе. [5]
1.2. 2018
Яндекс роботакси в Иннополисе. https://handwiki.org/wiki/index.php?curid=1938326
Сервис робо-такси был запущен в августе 2018 года в университетском городке Иннополис в Республике Татарстан на западе России. [6] Услуга предоставляется бесплатно. Во время поездок за рулем никого нет, а инженеры Яндекса занимают пассажирские места и выступают в роли наблюдателей за безопасностью. В феврале 2020 года сообщалось, что в Иннополисе совершено более 5000 автономных пассажирских поездок. [7]
В конце 2018 года Яндекс получил лицензию на использование своих беспилотных автомобилей на дорогах общего пользования в Неваде. В начале 2019 года беспилотные автомобили совершили демонстрационные заезды для гостей выставки CES 2019 в Лас-Вегасе. [8] В отличие от других прототипов, представленных на выставке, автомобили разъезжали по улицам города без какого-либо контроля со стороны человека. Инженера за рулем не было, только один на пассажирском сиденье, чтобы взять на себя управление автомобилем в случае чрезвычайной ситуации. В январе 2020 года Яндекс во второй раз предоставил автономные аттракционы для гостей CES. [9]
В декабре 2018 года компания получила разрешение Министерства транспорта Израиля на испытания своих беспилотных автомобилей на дорогах общего пользования. Это делает Израиль третьей страной, где компания тестирует свои беспилотные автомобили. [10] [11] В сентябре 2019 года территория тестирования была расширена за счет включения центра города. [12]
1.3. 2019
В октябре 2019 года Яндекс объявил, что его беспилотные автомобили преодолели 1 миллион миль в полностью автономном режиме с момента начала тестирования технологии. [13] Еще четыре компании, которые ранее объявили о подобных или больших расстояниях, — это Waymo, [14] GM Cruise, [15] Baidu [16] и Uber. [17]
В ноябре 2019 года компания представила своего автономного робота-доставщика, основанного на той же технологии автономного вождения, которую компания использует для своих автономных автомобилей. Робот размером с чемодан передвигается по тротуарам со скоростью 5-8 км/ч. В рамках начального этапа тестирования роботы работали в кампусе Яндекса с 7000 сотрудников в Москве, перевозя небольшие посылки из одного здания в другое. [18]
1.4. 2020
Беспилотный автомобиль Яндекса и автономный робот-доставщик в Анн-Арборе. https://handwiki.org/wiki/index.php?curid=1820507
В июне 2020 года Яндекс представил 4-е поколение своих беспилотных автомобилей. Автомобили созданы на базе Hyundai Sonata и разработаны в сотрудничестве с Hyundai Mobis. [19]
В августе 2020 года компания открыла центр испытаний автономных транспортных средств в Анн-Арборе. [20]
В сентябре 2020 года отдел беспилотных автомобилей Яндекса был выделен в отдельную компанию под названием Yandex Self-Driving Group (Yandex SDG) и получил 150 миллионов долларов от материнской компании.
1.5. 2021
В июле 2021 года Yandex SDG заключила партнерское соглашение с Grubhub для доставки роботов в университетские городки США. [21] К концу 2021 года Yandex SDG и Grubhub запустили автономную роботизированную доставку в Университете штата Огайо [22] и Университете Аризоны. [23]
В октябре 2021 года Яндекс СДГ объявила о партнерстве с Почтой России. В рамках этого партнерства 36 роботов начали осуществлять автономные доставки из 27 почтовых отделений Москвы. [24]
В ноябре 2021 года компания объявила о переходе на использование проприетарных лидаров на своих автономных транспортных средствах. [25]
2. Самоуправляемые автомобили
Облако точек собственного лидара Яндекс SDG. https://handwiki.org/wiki/index.php?curid=1444168
В конце 2021 года в парке Яндекса было около 170 автономных транспортных средств, которые проехали более 14 миллионов километров (10 миллионов миль) по России, Израилю и США. [26]
Автономные автомобили основаны на серийных моделях автомобилей, таких как Toyota Prius и Hyundai Sonata. Каждая машина оснащена четырьмя лидарами, шестью радарами и от 8 до 12 камер. [27] С ноября 2021 года Яндекс использует собственные лидары. Полутвердотельные лидары Яндекс SDG распознают объекты на расстоянии до 500 метров и способны изменять схему сканирования в полете. Полутвердотельные лидары Яндекс SDG распознают объекты на расстоянии до 500 метров и способны изменять схему сканирования в полете. Они могут увеличить плотность облака точек в районе рядом с автомобилем, когда он движется по двору, или увеличить дальность при движении на высокой скорости по шоссе. [25]
Большая часть флота эксплуатируется в Москве круглый год и проходит тщательные испытания в различных погодных условиях, включая дождь и снег. Компания сообщила о конкретных технологиях, разработанных для борьбы с плохой погодой. К ним относятся лидарная фильтрация облаков по отражениям снежинок и измерение коэффициента трения для планирования скорости и маневров. [28]
3. Автономные роботы-доставщики
Автономный робот-доставщик Яндекса в Аризоне. https://handwiki.org/wiki/index.php?curid=1095497
Яндекс СДГ представила своих автономных роботов-доставщиков в конце 2019 года. Первые прототипы доставляли документы между зданиями кампуса Яндекса в Москве. В мае 2020 года роботы поступили в первую коммерческую эксплуатацию в Инновационном центре «Сколково», где помогали администрации города в перемещении документов по территории центра. [29]
В конце 2020 года роботы присоединились к сервису доставки еды Яндекс.Еда и начали доставлять еду и продукты в несколько районов Москвы. [30] Полгода спустя Яндекс SDG заключил партнерское соглашение с Grubhub для доставки роботов в университетские городки США. К концу 2021 года компании запустили автономную роботизированную доставку в Университете штата Огайо и Университете Аризоны.
Автономные роботы-доставщики Яндекса работают по той же технологии, что и автономные автомобили компании. Роботы оснащены теми же типами датчиков, что и автомобили (лидары, радары и камеры), что означает, что они могут повторно использовать алгоритмы локализации и восприятия, разработанные для автомобилей. Роботы также повторно используют многие нейронные сети, в частности, для прогнозирования поведения других участников дорожного движения. Эти сети изначально разрабатывались для автомобилей, а данные тестировались, адаптировались и внедрялись для роботов. [31]
Роботы передвигаются со скоростью 5–8 км/ч (3–5 м/ч), могут автономно перемещаться по пешеходным переходам и распознавать сигналы светофора. Среднее время работы от одного заряда составляет около 8–12 часов. Последнее поколение роботов Яндекса имеет сменные батареи. [32]
4.
Товарищества
4.1. Хендай Мобис
Яндекс автономный Hyundai Sonata. https://handwiki.org/wiki/index.php?curid=1503574
В марте 2019 года между Яндексом и Hyundai было подписано соглашение о работе над автономными автомобильными системами. [33] Они разработают системы управления для автономных транспортных средств для уровней 4 и 5, категорий автоматизации, определенных как требующих ограниченного вмешательства человека. [34]
Целью партнерства является предоставление готового решения, которое могут использовать другие производители. [35] Компании планируют показать первый прототип совместного проекта до конца 2019 года. и картографические технологии. [36]
В июле 2019 года Hyundai Mobis и Яндекс представили беспилотную Hyundai Sonata 2020 как первый результат совместной работы. [37] В июне 2020 года Яндекс представил 4-е поколение своих беспилотных автомобилей на базе Hyundai Sonata.