← Книга

Как расширить исследование и проверить свежесть находок

12 ноября 2026 · Рекомендации для этой сборки

1. История сайта и границы наблюдения

Приоритет высокий. Если домен сменил назначение, ищите старую страницу по полному URL. Для начала сравните снимок Wayback с индексом Common Crawl за один период. У коллекций разные правила отбора, и обе могут воспроизводить один пресс-релиз. Самостоятельное подтверждение факта ищите у издателя документа или в реестре.

У Common Crawl запросите список коллекций и выберите ту, чей период покрывает вопрос. Затем запросите точный URL в её CDX API. Сохраните время захвата, статус, исходный URL, digest и ссылку на запись. Расхождение двух снимков задаёт интервал для поиска изменения. При редиректе проверяйте исходный и конечный URL отдельно.

Проверка от 12 ноября. Первой в живом списке была CC-MAIN-2026-43, с наблюдениями 2026-10-05 — 2026-10-18. Более позднее изменение страницы выходит за границы этой коллекции. Образец ответа сохранён в practice/freshness/commoncrawl.json.

Индекс коллекций · Поиск по индексу

2. Кто опубликовал утверждение и когда

Приоритет высокий для исследований технологий, медицины и организаций. Введите DOI в Crossref, откройте работу у издателя и сравните точную формулировку с её пересказом. Проверьте версию статьи, исправления и отозванные публикации. Если две новости ссылаются на одну работу, записывайте одну цепочку происхождения.

Проверенный пример. У статьи Measured measurement поле published содержит январь 2009 года с точностью до месяца. Запись создана 3 января 2009 года и проиндексирована 9 ноября 2026 года. Для вопроса о том, когда работа стала доступна, сохраняйте точность поля published. Для повторной синхронизации каталога используйте изменение индекса.

OpenAlex добавляет поиск связанных работ и организаций. Для воспроизводимости фиксируйте DOI, OpenAlex ID, фильтры и дату выгрузки. Ключ и доступную квоту проверяйте в документации авторизации. Совместная аффилиация относится к периоду конкретной публикации.

Использованная запись DOI · Поля дат Crossref · Доступ к OpenAlex

3. Одноимённые организации и происхождение графа

Приоритет высокий, установка новых программ обычно не нужна. Задайте ключ юридического лица как пару из юрисдикции и реестрового номера. LEI добавьте отдельным полем. При смене названия оставьте обе формы с датами действия. Если похожие записи различаются номером, сохраните два узла до документального подтверждения реорганизации.

Wikidata помогает перейти от варианта названия к идентификатору внешнего реестра. Проверьте ссылку у конкретного утверждения. GLEIF даёт вторую точку поиска, а выписка регистратора позволяет проверить дату и тип отношения. Если агрегатор импортировал сведения из этой же выписки, отмечайте их общее происхождение.

Практическая схема по PROV-O. Исходная выписка получает S1, распознанный текст S2, ручная выписка номера S3. Запишите, какое действие породило S2 и S3, и сошлитесь на страницу S1. При исправлении OCR обновляйте производную запись и выводы, которые на неё ссылались. Для маленького дела хватит таблицы.

Wikidata Query Service · GLEIF API · Модель происхождения W3C

4. Воспроизводимое сравнение спутниковых сцен

Приоритет зависит от задачи. Для вопроса о строительстве задайте полигон, период и минимальный различимый размер объекта. В каталоге STAC сохраните идентификаторы коллекции и обеих сцен, время съёмки и использованные файлы каналов. Тот же участок на обзорной карте может показываться после обновления из другой сцены.

Проверьте облачность непосредственно над участком, разрешение выбранных каналов и сопоставимость сезона. Отметьте последнее наблюдение до появления объекта и первое после. Если между двумя ясными сценами прошло шесть недель, укажите этот интервал. Для более узкой даты понадобится отдельный датированный источник.

Спецификация STAC · Copernicus Browser

5. Что упростить в ежедневной работе

Выберите исходный объект. URL ведёт к архивам и реквизитам. DOI ведёт к публикации и её версиям. Регистрационный номер ведёт к выписке за нужный период. Изображение ведёт к ранним публикациям и проверке ориентиров. В каждом случае запишите одну проверяемую фразу перед запуском программ.

Откройте TERMINAL.command и выполните osint-case new study. Поместите оригинал в cases/study/originals. В evidence.csv укажите путь относительно дела, SHA-256, source_id и дату получения UTC. В edges.csv ссылайтесь на этот source_id. Перед передачей материалов выполните osint-review cases/study. Команда работает офлайн и указывает строки, требующие исправления.

Для маленького дела оставьте таблицы и оригиналы. OpenRefine имеет смысл при повторяющихся вариантах названий, Gephi — когда конкретный вопрос касается структуры связей, полноценный WARC-захват — когда результат зависит от нескольких ресурсов страницы. Основанием расширить сбор служит нерешённый вопрос с понятным критерием проверки.

Сверка сущностей OpenRefine · Структура таблиц · Формат WARC

6. Аудит свежести на 12 ноября 2026

Семь зафиксированных версий Homebrew, включая ревизии формул, и Sherlock из PyPI совпали с опубликованными в этих каналах. По каждой программе сохранены обе версии и адрес машиночитаемого первоисточника. Эта сверка покрывает установленные пакеты, без проверки всех зависимостей.

Для theHarvester сверены README и pyproject.toml основной ветки. Требование к Python сформулировано как ≥3.14. Команда uv sync и выбор источников crtsh,certspotter присутствуют в README. Перед повторением на другой версии фиксируйте тег или commit проекта.

Проверены адреса всех 66 записей расширенного каталога. HTTP 2xx получили 56. Ручная проверка требуется для следующих записей: Bellingcat Toolkit (000), GIJN Companies (000), Shodan (000), Censys (000), Handelsregister (000), SEC EDGAR (403), TED (429), OpenRefine (000), Wayback Machine (429), OpenSky Network (000). HTTP 000 означает отсутствие полученного статуса. Проверка адреса не устанавливает возраст наблюдений внутри сервиса. Для индексных данных выше приведены отдельные проверки содержимого.

Повторяйте сверку версий перед переустановкой, проверку синтаксиса по справке установленной программы перед новым сценарием, а дату охвата источника при каждом выводе о текущем состоянии. Если реестр обновил запись сегодня, проверьте дату действия документа, на который он ссылается.

Сверка восьми пакетов · Проверка ссылок · Требование к Python · Документация сборки