OlmoEarth v1.3 cung cấp nhúng vệ tinh mở cho toàn bộ hành tinh

Hugging Face vừa ra mắt OlmoEarth v1.3, một mô hình mới đạt trạng thái nghệ thuật (state-of-the-art) có khả năng tạo ra các vector nhúng từ ảnh vệ tinh. Bên cạnh trọng số của mô hình, nhóm nghiên cứu cũng công bố các vector nhúng hàng năm đã được tính toán trước cho toàn bộ Trái Đất cùng với một công cụ khám phá dựa trên trình duyệt. Lần ra mắt này nhằm mục đích hạ thấp rào cản cho các nhà phát triển và nhà nghiên cứu làm việc với dữ liệu địa không gian bằng cách loại bỏ nhu cầu về tài nguyên tính toán nặng nề.

Chuyện gì đã xảy ra

Trọng tâm của bản phát hành này là mô hình OlmoEarth v1.3, xử lý dữ liệu chuỗi thời gian từ vệ tinh thành các vector đặc trưng nhỏ gọn và tái sử dụng được. Khác với các phiên bản trước yêu cầu người dùng phải tinh chỉnh mô hình trên ảnh thô bằng sức mạnh GPU đáng kể, phiên bản này cung cấp các vector nhúng sẵn sàng để sử dụng. Hugging Face đã tính toán các vector nhúng này cho từng pixel 10 mét trên Trái Đất trong nhiều năm và cung cấp chúng thông qua Source Cooperative. Bản phát hành cũng bao gồm OlmoEarth Embeddings Explorer, một công cụ web tương tác cho phép người dùng trực quan hóa những thay đổi theo thời gian và huấn luyện các bộ phân loại đơn giản mà không cần viết code hay quản lý cơ sở hạ tầng.

Cách tiếp cận này chuyển dịch quy trình làm việc từ việc huấn luyện các mô hình thị giác lớn từ đầu sang thực hiện mô hình hóa nhẹ nhàng trên nền tảng các đặc tính có sẵn. Các nhà phát triển giờ đây có thể xây dựng các ứng dụng như lập bản đồ cây trồng, phân loại lớp phủ đất hoặc phát hiện thay đổi bằng cách huấn luyện các bộ phân loại nhỏ trên các vector được cung cấp. Nhóm nghiên cứu đã đánh giá các vector nhúng mới so với các đối thủ cạnh tranh như AlphaEarth Foundations và Tessera v2 trên 27 benchmark khác nhau. OlmoEarth v1.3 đạt điểm tổng thể cao nhất, dẫn đầu trong 20/27 bài kiểm tra với các vector 128 chiều và trong 18 bài kiểm tra với biến thể nhỏ hơn 64 chiều.

Bản phát hành nhấn mạnh vào tính mở và hiệu quả. Tất cả trọng số mô hình, dữ liệu tiền huấn luyện và mã nguồn đều được công khai dưới Giấy phép OlmoEarth Artifact. Nhóm nghiên cứu báo cáo rằng việc huấn luyện OlmoEarth v1.3 rẻ hơn và tiết kiệm năng lượng hơn đáng kể so với các phiên bản trước, chỉ tiêu thụ 53% thời gian tính toán của phiên bản 1.2 và 18% của phiên bản 1. Hiệu quả này giúp các tổ chức khác dễ dàng tái tạo kết quả, với lần chạy huấn luyện cuối cùng ước tính tốn khoảng $2,720 cho thời gian thuê GPU H100.

Cách thức hoạt động

OlmoEarth v1.3 hoạt động bằng cách đọc dữ liệu chuỗi thời gian hàng năm từ ba nguồn vệ tinh chính: dữ liệu radar từ Sentinel-1, và dữ liệu đa phổ từ Sentinel-2 và Landsat. Mô hình sử dụng kiến trúc vision transformer để xử lý đầu vào này. Thành phần Attention Pooler tổng hợp thông tin từ các mảng đất đai thành một biểu diễn duy nhất, sau đó được giảm xuống thành một vector 128 chiều bởi một lớp tuyến tính. Các vector này, hay còn gọi là embeddings, nắm bắt ý nghĩa ngữ cảnh của cảnh quan tại mỗi pixel 10 mét. 64 chiều đầu tiên của vector này cũng có thể hoạt động độc lập như một embedding nhỏ hơn và nhẹ hơn.

Vì các embeddings nén dữ liệu vệ tinh phức tạp thành các con số có kích thước cố định, chúng cho phép so sánh và phân loại hiệu quả. Người dùng có thể so sánh các vector từ những năm khác nhau để phát hiện các thay đổi, chẳng hạn như nạn phá rừng hoặc sự mở rộng đô thị, bằng cách đo khoảng cách giữa chúng. Hệ thống cũng duy trì hồ sơ xuất xứ, liên kết mỗi embedding trở lại các cảnh vệ tinh cụ thể được sử dụng để tạo ra nó. Tính minh bạch này cho phép người dùng xác minh dữ liệu nguồn cho bất kỳ vị trí nào.

Chi tiết chính

• OlmoEarth v1.3 tạo ra các embeddings 128 chiều cho mỗi pixel 10 mét trên Trái Đất, kèm theo một tập hợp con 64 chiều có thể sử dụng được.
• Các embeddings toàn cầu đã được tính toán trước có sẵn cho các năm 2023, 2024 và 2025, với phạm vi bao gồm chọn lọc cho một số quốc gia từ năm 2017 đến 2022.
• Mô hình vượt trội hơn AlphaEarth Foundations và Tessera v2 trong 20/27 bài đánh giá benchmark.
• Chi phí huấn luyện giảm 47% so với v1.2, với lượng phát thải carbon giảm một nửa so với phiên bản trước.
• OlmoEarth Embeddings Explorer cho phép người dùng huấn luyện các bộ phân loại và xuất tệp GeoTIFF trực tiếp trên trình duyệt mà không cần truy cập GPU.
• Tất cả tài sản, bao gồm trọng số, mã nguồn và dữ liệu, đều là mã nguồn mở theo Giấy phép OlmoEarth Artifact.

Tại sao điều này quan trọng

Đối với các kỹ sư phần mềm và nhà khoa học dữ liệu, bản phát hành này giảm đáng kể ma sát liên quan đến việc xây dựng các ứng dụng địa không gian. Theo truyền thống, việc tạo ra các bản đồ sử dụng đất chính xác đòi hỏi tải xuống hàng terabyte ảnh vệ tinh thô, thiết lập các pipeline tiền xử lý phức tạp và huấn luyện các mô hình lớn trên phần cứng đắt đỏ. Với các embeddings đã được tính toán trước, những bước này bị loại bỏ. Các nhà phát triển có thể tập trung vào giải quyết các vấn đề cụ thể trong lĩnh vực, chẳng hạn như xác định cây trồng của hộ nông dân nhỏ lẻ hoặc theo dõi hoạt động khai thác mỏ, bằng cách huấn luyện các bộ phân loại đơn giản và nhanh chóng trên nền tảng các vector được cung cấp. Việc dân chủ hóa quyền truy cập này có nghĩa là các đội ngũ nhỏ hơn và các tổ chức có nguồn lực hạn chế giờ đây có thể thực hiện phân tích ở quy mô hành tinh.

Sự sẵn có của các embeddings chất lượng cao, mã nguồn mở cũng thúc đẩy nhanh quá trình nghiên cứu và đổi mới trong giám sát môi trường. Bằng cách cung cấp một baseline chuẩn hóa, hiệu suất cao, cộng đồng có thể xây dựng các công cụ đáng tin cậy hơn để theo dõi tác động của biến đổi khí hậu, nạn khai thác gỗ trái phép và xu hướng nông nghiệp. Việc bao gồm dữ liệu xuất xứ đảm bảo rằng các kết quả có thể kiểm toán được, điều rất quan trọng đối với các ứng dụng khoa học và pháp lý. Hơn nữa, những cải thiện về hiệu quả trong quá trình huấn luyện chứng minh rằng các mô hình nền tảng hiệu suất cao không luôn đòi hỏi mức tiêu thụ năng lượng không bền vững, hướng tới một tương lai bền vững hơn cho sự phát triển của AI.

Bạn có thể làm gì

• Truy cập OlmoEarth Embeddings Explorer để trực quan hóa những thay đổi của hành tinh và thử nghiệm tìm kiếm tương tự mà không cần cài đặt bất kỳ phần mềm nào.
• Tải xuống các embeddings 64 hoặc 128 chiều đã được tính toán trước cho khu vực bạn quan tâm từ Source Cooperative.
• Huấn luyện một bộ phân loại nhẹ trên các embeddings để tạo ra các bản đồ tùy chỉnh cho các tác vụ như phát hiện cây trồng hoặc phân tích lớp phủ đất.
• Sử dụng các bảng xuất xứ để truy vết các embeddings cụ thể trở lại các cảnh nguồn gốc từ Sentinel-1, Sentinel-2 hoặc Landsat.
• Thử nghiệm với OlmoEarth Studio nếu bạn cần tạo embeddings cho các cửa sổ thời gian hoặc độ phân giải cụ thể không nằm trong tập dữ liệu đã tính toán trước.
• Xem xét báo cáo kỹ thuật và chi tiết benchmark PLANTEUR để hiểu phương pháp đánh giá và các hạn chế của mô hình.