Clay: Mô hình Nền tảng AI Mã nguồn Mở Cách mạng hóa Quan sát Trái đất

Phần 1: Giới thiệu: Một Lăng kính Mới về Hành tinh của Chúng ta qua Sức mạnh AI

1.1 Nhu cầu Cấp thiết của Quan sát Trái đất

Trong kỷ nguyên đối mặt với những thách thức môi trường ngày càng gia tăng, việc theo dõi sát sao các hệ thống phức tạp của Trái đất trở nên quan trọng hơn bao giờ hết. Từ biến đổi khí hậu, quản lý tài nguyên thiên nhiên đến ứng phó với thiên tai, khả năng quan sát và hiểu biết về hành tinh của chúng ta là yếu tố then chốt. Tuy nhiên, khối lượng dữ liệu khổng lồ từ vệ tinh và các nguồn không gian địa lý khác, cùng với sự phức tạp vốn có của chúng, đặt ra những thách thức đáng kể cho việc phân tích và khai thác thông tin hiệu quả. Việc xử lý và diễn giải hàng terabyte ảnh vệ tinh và dữ liệu cảm biến đòi hỏi năng lực tính toán và chuyên môn cao, thường vượt quá khả năng của nhiều tổ chức và nhà nghiên cứu.

1.2 Sự Trỗi dậy của các Mô hình Nền tảng

Trí tuệ nhân tạo (AI), đặc biệt là sự phát triển của các “mô hình nền tảng” (foundation models), đang mở ra những hướng đi mới đầy hứa hẹn. Đây là những mô hình AI quy mô lớn, được huấn luyện trên một lượng lớn dữ liệu đa dạng, cho phép chúng học được các biểu diễn phong phú và tổng quát về thế giới. Tương tự như cách các mô hình ngôn ngữ lớn (như BERT hay GPT) đã cách mạng hóa lĩnh vực xử lý ngôn ngữ tự nhiên, các mô hình nền tảng có tiềm năng biến đổi sâu sắc nhiều lĩnh vực khoa học, bao gồm cả khoa học Trái đất. Khả năng thích ứng với nhiều tác vụ cụ thể (downstream tasks) sau khi được huấn luyện trước (pre-training) giúp chúng trở thành công cụ mạnh mẽ và linh hoạt.

1.3 Giới thiệu Clay: Cầu nối giữa AI và Khoa học Trái đất

Trong bối cảnh đó, Clay xuất hiện như một mô hình nền tảng AI được thiết kế đặc biệt cho Trái đất.¹ Mục tiêu cốt lõi của Clay là khai thác sức mạnh của AI, kết hợp với ảnh vệ tinh và dữ liệu không gian khác, để tổ chức thông tin về những gì đang xảy ra tại các địa điểm cụ thể trên khắp thế giới.³ Clay không chỉ là một mô hình AI thông thường; nó được xây dựng để giải quyết các thách thức về quy mô và độ phức tạp đặc thù của dữ liệu Quan sát Trái đất (Earth Observation – EO). Điều này thể hiện rõ qua việc Clay được thiết kế để hiểu các mối quan hệ không gian và thời gian trong dữ liệu Trái đất, thay vì chỉ tập trung vào các đặc trưng hình ảnh đơn thuần.¹

Một đặc điểm nổi bật và là nền tảng triết lý của Clay là tính mã nguồn mở.¹ Dự án được bảo trợ tài chính bởi Radiant Earth Foundation, một tổ chức phi lợi nhuận 501(c)(3).¹ Sự hậu thuẫn này không chỉ cung cấp nguồn lực mà còn nhấn mạnh cam kết của dự án đối với khoa học mở và khả năng tiếp cận rộng rãi, phân biệt Clay với các sáng kiến hoàn toàn mang tính thương mại. Cam kết này thể hiện qua việc cung cấp công khai mã nguồn, trọng số mô hình và tài liệu hướng dẫn dưới các giấy phép mở.¹

Về cơ bản, Clay hoạt động bằng cách nhận đầu vào là ảnh vệ tinh cùng với thông tin về vị trí và thời gian, sau đó tạo ra các “embeddings” – những biểu diễn toán học nén, chứa đựng thông tin ngữ nghĩa về một khu vực nhất định tại một thời điểm cụ thể trên bề mặt Trái đất.² Chính những embeddings này là chìa khóa mở ra tiềm năng phân tích sâu rộng về hành tinh của chúng ta. Việc Clay được thiết kế chuyên biệt cho EO, thay vì là một mô hình thị giác máy tính tổng quát, cho thấy một lựa chọn chiến lược nhằm giải quyết hiệu quả các vấn đề thực tế như theo dõi độ che phủ rừng hay công bằng môi trường ³, hứa hẹn mang lại lợi thế đáng kể so với các mô hình AI thông thường trong lĩnh vực này. Đồng thời, sự bảo trợ của một tổ chức phi lợi nhuận như Radiant Earth tạo dựng niềm tin và thúc đẩy sự hợp tác trong cộng đồng nghiên cứu, đặc biệt là trong các ứng dụng vì lợi ích môi trường và cộng đồng.

Phần 2: Ngôn ngữ của Dữ liệu Trái đất: Tìm hiểu về AI Embeddings

2.1 Định nghĩa AI Embeddings cho Quan sát Trái đất

AI embeddings trong lĩnh vực Quan sát Trái đất là một kỹ thuật đột phá, chuyển đổi dữ liệu thô về bề mặt Trái đất (như ảnh vệ tinh) thành các bản tóm tắt số học nhỏ gọn nhưng giàu ý nghĩa.⁷ Hãy hình dung chúng như những “thẻ chỉ mục” (index cards) kỹ thuật số, không chỉ lưu trữ dữ liệu mà còn nắm bắt được ngữ nghĩa và bối cảnh của dữ liệu đó.⁷ Thay vì chỉ là tập hợp các pixel, embeddings là các vector số biểu diễn sự hiểu biết của AI về khu vực được quan sát. Chúng cho phép AI “đọc” và “hiểu” dữ liệu Trái đất, nhận diện các mẫu hình phức tạp và các mối quan hệ ẩn sâu bên trong mà con người khó có thể tự mình phát hiện qua việc xem xét dữ liệu thô.⁷

2.2 Sức mạnh của Embeddings: Lợi ích Chính

Việc sử dụng AI embeddings mang lại nhiều lợi ích tiềm năng mang tính cách mạng cho lĩnh vực Quan sát Trái đất ⁷:

• Nâng cao Khả năng Nhận dạng Mẫu: Embeddings trang bị cho AI khả năng nắm bắt cả chi tiết nhỏ lẫn bối cảnh rộng lớn trong dữ liệu bề mặt Trái đất. Điều này giúp xác định các thay đổi môi trường và các hiện tượng khác với độ chính xác cao hơn.⁷
• Nén Ngữ nghĩa (Semantic Compression): Embeddings hoạt động như một cơ chế nén ngữ nghĩa cực kỳ hiệu quả. Chúng cho phép tạo ra các mô hình AI có thể biểu diễn các tập dữ liệu khổng lồ (ví dụ được đưa ra là toàn bộ Wikipedia với mô hình BERT) với độ chính xác cao trong khi kích thước mô hình giảm đáng kể (chỉ bằng 1% trong ví dụ BERT).⁷ Đối với dữ liệu EO, embeddings có thể nén toàn bộ hình ảnh thành các bản tóm tắt rất ngắn (thường dưới 5% kích thước gốc), làm cho việc phân tích trở nên đơn giản hơn về mặt khái niệm.⁷
• Phân tích Không gian Địa lý Hiệu quả ở Quy mô Lớn: Nhờ khả năng nén mạnh mẽ, embeddings làm giảm đáng kể gánh nặng tính toán cho các phân tích không gian địa lý quy mô lớn. Điều này mở ra khả năng trả lời những câu hỏi phức tạp, ví dụ như ước tính số lượng cây trên toàn thế giới, vốn trước đây là bất khả thi do đòi hỏi quá nhiều tài nguyên tính toán.⁷
• Hiểu biết Đa chiều: Embeddings cho phép AI điều hướng và liên kết thông tin qua không gian, thời gian và các khái niệm. Thay vì chỉ phân loại đơn giản như rừng hay cây cối, AI có thể hiểu được các hiện tượng phức tạp, liên kết với nhau như dòng chảy sông ngòi, lũ lụt, hạn hán và sự phát triển đô thị.⁷
• Dân chủ hóa Tiếp cận: Một trong những lợi ích quan trọng nhất là khả năng giảm thiểu các rào cản về sức mạnh tính toán, quyền truy cập dữ liệu và kỹ năng kỹ thuật. Embeddings có thể mở khóa giá trị của dữ liệu EO cho cả những người không phải là chuyên gia, giúp nhiều đối tượng hơn có thể khai thác nguồn tài nguyên thông tin quý giá này.⁷

2.3 Cách Clay Triển khai Embeddings

Clay đặt embeddings làm trọng tâm trong hoạt động của mình. Đầu ra chính của mô hình chính là các embeddings ngữ nghĩa này, được tạo ra cho bất kỳ vị trí và thời điểm nào theo yêu cầu.¹ Chất lượng và tính hữu dụng của các embeddings do Clay tạo ra đã được kiểm chứng qua các thử nghiệm, cho thấy độ chính xác trên 90% trong các tác vụ như phân loại mục đích sử dụng đất, phát hiện nuôi trồng thủy sản và ước tính sinh khối.⁷ Điều này khẳng định rằng các embeddings này thực sự nắm bắt được những thông tin quan trọng từ dữ liệu đầu vào.

Hơn nữa, để minh họa tiềm năng ứng dụng thực tế, một ứng dụng mẫu không cần mã (no-code app) dựa trên Clay đã được phát triển như một bằng chứng về khái niệm (proof-of-concept), cho phép người dùng phát hiện bất cứ thứ gì bằng cách sử dụng embeddings.⁷ Sự tồn tại của các mô hình như Clay, cùng với các mô hình khác như SatCLIP của Microsoft và Prithvi của NASA, đã xác nhận tiềm năng kỹ thuật, thương mại và công cộng của việc sử dụng AI embeddings cho Quan sát Trái đất.⁷

Rõ ràng, AI embeddings là cốt lõi công nghệ đằng sau sức mạnh và sự linh hoạt của Clay.¹ Chúng biến đổi dữ liệu pixel thô thành một định dạng có cấu trúc, giàu ngữ nghĩa mà AI có thể xử lý hiệu quả ở quy mô lớn. Điều này có nghĩa là người dùng tương tác với Clay không chỉ như một bộ xử lý hình ảnh hộp đen, mà còn là một công cụ tạo ra các biểu diễn dữ liệu linh hoạt, có thể được tái sử dụng cho vô số ứng dụng khác nhau, thúc đẩy sự đổi mới. Lợi ích “dân chủ hóa” không chỉ là lý thuyết ⁷; nó được hiện thực hóa một cách tích cực thông qua sự kết hợp giữa công nghệ embeddings (giảm rào cản tính toán/kỹ năng) và mô hình mã nguồn mở (giảm rào cản truy cập).¹ Sự kết hợp này tạo ra một sức mạnh tổng hợp, có khả năng mở rộng đáng kể cộng đồng người dùng có thể tận dụng phân tích dữ liệu EO tiên tiến, vượt ra ngoài các tổ chức chuyên biệt đến các tổ chức nhỏ hơn, nhà nghiên cứu và thậm chí cả các nhà khoa học công dân.

Phần 3: Bên trong Clay: Kiến trúc và Quá trình Học máy

3.1 Kiến trúc Cốt lõi: Vision Transformer Tinh chỉnh cho Trái đất

Nền tảng của Clay là một kiến trúc Vision Transformer (ViT) mở rộng.¹ ViT là một loại mạng nơ-ron mạnh mẽ, ban đầu được phát triển cho các tác vụ thị giác máy tính, lấy cảm hứng từ sự thành công của kiến trúc Transformer trong xử lý ngôn ngữ tự nhiên. Tuy nhiên, Clay không chỉ đơn thuần áp dụng ViT. Điểm mấu chốt là kiến trúc này đã được nâng cấp và điều chỉnh đặc biệt để hiểu được các mối quan hệ không gian địa lý và thời gian trong dữ liệu Quan sát Trái đất.¹

Điều này có nghĩa là Clay không chỉ xử lý thông tin hình ảnh (các pixel trong ảnh vệ tinh) mà còn tích hợp thông tin về vị trí (kinh độ, vĩ độ) và thời gian (thời điểm ảnh được chụp) như một phần không thể thiếu của dữ liệu đầu vào.² Thực tế, các embeddings cuối cùng từ bộ mã hóa (encoder) của Clay được dành riêng để biểu diễn thông tin kinh độ-vĩ độ và dấu thời gian.³ Sự thích ứng này rất quan trọng vì nhiều hiện tượng trên Trái đất chỉ có thể được hiểu đúng khi xem xét bối cảnh không gian và sự thay đổi theo thời gian.

3.2 Mô hình Học máy: Tự giám sát qua Masked Autoencoding (MAE)

Clay được huấn luyện bằng phương pháp Tự giám sát (Self-supervised learning – SSL), cụ thể là kỹ thuật Masked Autoencoder (MAE).¹ Học tự giám sát là một phương pháp học máy mạnh mẽ, cho phép mô hình học các biểu diễn hữu ích từ dữ liệu mà không cần đến các nhãn được gán thủ công bởi con người.

Trong phương pháp MAE, một phần đáng kể của dữ liệu đầu vào (ví dụ: các mảng nhỏ – patches – của ảnh vệ tinh) sẽ bị che đi hoặc “mask” một cách ngẫu nhiên. Nhiệm vụ của mô hình là cố gắng tái tạo lại các phần bị che giấu này dựa trên những phần không bị che.³ Bộ mã hóa của mô hình chỉ xử lý các phần không bị che, buộc nó phải học được các đặc trưng cốt lõi và mối liên hệ trong dữ liệu để có thể dự đoán và khôi phục thành công các phần bị thiếu.³ Quá trình này giúp mô hình xây dựng một sự hiểu biết sâu sắc về cấu trúc và ngữ nghĩa của dữ liệu EO.

Ngoài ra, có những dấu hiệu cho thấy việc sử dụng các “mô hình thầy” (teacher models), như SAM (Segment Anything Model), đang được xem xét hoặc triển khai trong các phiên bản sau (ví dụ: v1.5) để có thể hướng dẫn hoặc tăng cường quá trình học tự giám sát.⁸ Tuy nhiên, MAE vẫn là phương pháp cốt lõi.

3.3 Dữ liệu và Quy trình Huấn luyện

Chất lượng của một mô hình nền tảng phụ thuộc rất nhiều vào dữ liệu mà nó được huấn luyện. Đối với các phiên bản đầu (v0/v1), Clay được huấn luyện trên các chồng dữ liệu (stacks) bao gồm ³:

• Ảnh quang học đa phổ từ Sentinel-2 (10 kênh).
• Dữ liệu Radar khẩu độ tổng hợp (SAR) từ Sentinel-1 (2 kênh). Dữ liệu này cung cấp thông tin về cấu trúc bề mặt và có thể nhìn xuyên qua mây.
• Dữ liệu Mô hình Độ cao Số (Digital Elevation Model – DEM), cung cấp thông tin về địa hình.

Dữ liệu này bao phủ các khía cạnh không gian và thời gian đa dạng. Mô hình được huấn luyện trên các ô lưới MGRS (Military Grid Reference System) phân bố toàn cầu, mỗi ô có kích thước 10km x 10km, và sử dụng dữ liệu từ 3 thời điểm khác nhau cho mỗi vị trí.³ Nguồn dữ liệu chính được sử dụng là Microsoft Planetary Computer, một nền tảng cung cấp quyền truy cập vào lượng lớn dữ liệu địa không gian.³

Quá trình huấn luyện đòi hỏi năng lực tính toán đáng kể. Ví dụ, phiên bản v0 được huấn luyện trên nền tảng AWS sử dụng 4 GPU NVIDIA A10G, kéo dài khoảng 14 giờ cho mỗi epoch (một lượt huấn luyện qua toàn bộ dữ liệu) và tổng cộng 25 epochs vào tháng 12 năm 2023.³

Quan trọng là, Clay là một dự án đang phát triển không ngừng. Các đợt huấn luyện mới đang được tiến hành (ví dụ: cho phiên bản v1.5 dự kiến) với nhiều cải tiến ⁸:

• Bổ sung nguồn dữ liệu mới như MODIS.⁸
• Áp dụng các kỹ thuật mới như MRL (Metric Relearning) trên embeddings.⁸
• Sử dụng các bộ tối ưu hóa hiệu quả hơn như Fused Adam và 8-bit Adam.⁸
• Tinh chỉnh kiến trúc (ví dụ: sử dụng Fused Transformers, giảm kích thước bộ giải mã).⁸
• Áp dụng các kỹ thuật tăng cường dữ liệu (data augmentation) như loại bỏ ngẫu nhiên thông tin kênh hoặc vị trí/thời gian, chuyển đổi dữ liệu Sentinel-1 sang thang đo dB.⁸

Việc lựa chọn kiến trúc ViT được điều chỉnh cho dữ liệu không gian-thời gian ¹ và phương pháp huấn luyện tự giám sát MAE ¹ là những quyết định kỹ thuật quan trọng. Chúng thể hiện sự áp dụng các kỹ thuật AI tiên tiến nhất, nhưng được tùy chỉnh đặc biệt cho bản chất độc đáo của dữ liệu EO. Cách tiếp cận này có khả năng mang lại hiệu suất vượt trội cho các tác vụ EO phụ thuộc nhiều vào bối cảnh không gian và thay đổi thời gian, so với các mô hình thị giác không được thiết kế chuyên biệt cho các chiều dữ liệu này.

Đồng thời, phương pháp MAE tự giám sát giúp giảm đáng kể sự phụ thuộc vào các bộ dữ liệu lớn, đắt tiền và được gán nhãn thủ công – một nút thắt cổ chai lớn trong học máy có giám sát truyền thống cho EO.¹ Điều này giúp việc huấn luyện các mô hình mạnh mẽ trên kho dữ liệu vệ tinh khổng lồ chưa được gán nhãn trở nên khả thi, thúc đẩy tiến bộ và mở ra khả năng phân tích ở những khu vực hoặc cho những ứng dụng thiếu dữ liệu có nhãn. Cuối cùng, các thảo luận công khai về quá trình phát triển phiên bản v1.5 ⁸ cho thấy Clay là một dự án năng động, liên tục tích hợp dữ liệu và kỹ thuật mới. Mặc dù phiên bản hiện tại (v1.0) đã mạnh mẽ ², người dùng cần nhận thức rằng các phiên bản mới hơn với nhiều cải tiến đang được phát triển. Sự minh bạch này (thông qua các kênh như GitHub Issues ⁸) là một điểm tích cực cho cộng đồng, nhưng cũng đòi hỏi người dùng cần cập nhật thông tin thường xuyên.

Phần 4: Clay trong Thực tiễn: Khả năng và Ứng dụng

4.1 Các Chế độ Sử dụng Linh hoạt

Một trong những điểm mạnh của Clay là sự linh hoạt trong cách người dùng có thể tương tác và khai thác mô hình. Có ba cách chính để sử dụng Clay ¹:

1. Tạo Embeddings Ngữ nghĩa: Đây là chức năng cốt lõi. Người dùng có thể tạo ra các vector embedding cho bất kỳ vị trí và thời điểm nào. Những embeddings này sau đó có thể được sử dụng cho nhiều tác vụ khác nhau, chẳng hạn như tìm kiếm sự tương đồng giữa các khu vực, hoặc phát hiện các đối tượng hay đặc điểm cụ thể trên bề mặt Trái đất như mỏ khai thác lộ thiên, khu nuôi trồng thủy sản, hoặc các cơ sở chăn nuôi tập trung.² Cách sử dụng này tận dụng trực tiếp đầu ra cơ bản của mô hình đã thảo luận ở Phần 2.
2. Tinh chỉnh (Fine-tuning) cho các Tác vụ Cụ thể: Người dùng có thể điều chỉnh mô hình Clay đã được huấn luyện trước để tối ưu hóa cho các nhiệm vụ cụ thể (downstream tasks). Việc này tận dụng kiến thức tổng quát mà mô hình đã học được trong giai đoạn huấn luyện trước, giúp quá trình tinh chỉnh hiệu quả hơn nhiều so với việc huấn luyện một mô hình từ đầu.² Các tác vụ có thể bao gồm:

• Phân loại (Classification): Xác định loại đối tượng hoặc lớp đặc trưng, ví dụ như phân loại loại cây trồng, lớp phủ đất.² Một ví dụ cụ thể là đóng băng bộ mã hóa của Clay và chỉ huấn luyện một mạng MLP (Multi-Layer Perceptron) đơn giản gồm 2 lớp ở phần đầu (head) để thực hiện phân loại dựa trên embedding đầu ra của Clay.⁹
• Hồi quy (Regression): Dự đoán các giá trị liên tục, ví dụ như ước tính sinh khối thực vật trên mặt đất hoặc năng suất nông nghiệp.²
• Phát hiện Thay đổi (Change Detection): Xác định các khu vực đã trải qua những thay đổi đáng kể theo thời gian, như phá rừng, cháy rừng, tàn phá do xung đột, lũ lụt, hoặc phát triển đô thị.² Điều này có thể được thực hiện bằng cách huấn luyện một mô hình thứ cấp nhận embeddings làm đầu vào và dự đoán các lớp/giá trị thay đổi, hoặc thậm chí tinh chỉnh chính các trọng số của Clay để cập nhật embeddings.²

3. Sử dụng làm Backbone: Kiến trúc mạnh mẽ của Clay, đặc biệt là bộ mã hóa, có thể được sử dụng như một thành phần cốt lõi (backbone) để trích xuất đặc trưng trong các mô hình AI lớn hơn và phức tạp hơn.¹ Các đặc trưng được trích xuất bởi Clay có thể cung cấp một nền tảng vững chắc cho các kiến trúc mô hình khác.

4.2 Ví dụ Ứng dụng

Khả năng của Clay chuyển thành một loạt các ứng dụng thực tế có giá trị trong nhiều lĩnh vực liên quan đến Trái đất:

• Phát hiện Đặc điểm/Đối tượng: Xác định vị trí các đối tượng hoặc khu vực quan tâm như mỏ khai thác ², khu nuôi trồng thủy sản ², có thể mở rộng sang phát hiện ô nhiễm nhựa ³ hoặc các loại hình sử dụng đất đặc biệt khác.
• Phân loại và Hồi quy: Tạo bản đồ lớp phủ đất với độ chính xác cao (thử nghiệm cho thấy >90% ⁷), xác định các loại cây trồng khác nhau, dự đoán các biến số môi trường quan trọng như sinh khối thực vật ² hoặc trữ lượng carbon.³
• Phát hiện Thay đổi: Theo dõi các biến động môi trường và hoạt động của con người, bao gồm phá rừng, sự lan rộng của các vết sẹo do cháy rừng ³, thiệt hại do xung đột hoặc thiên tai như lũ lụt, và quá trình đô thị hóa.² Theo dõi sự thay đổi độ che phủ rừng theo thời gian cũng là một ứng dụng tiềm năng.³

4.3 Bảng Tóm tắt Thông số Kỹ thuật Mô hình Clay

Để cung cấp một cái nhìn tổng quan và tiện lợi cho người dùng kỹ thuật, bảng sau tóm tắt các thông số kỹ thuật chính của mô hình Clay:

Sự đa dạng trong các chế độ sử dụng ¹ cho thấy thiết kế của Clay hướng đến việc phục vụ một phổ rộng người dùng với các nhu cầu và trình độ kỹ thuật khác nhau. Từ việc sử dụng embeddings có sẵn cho các phân tích nhanh chóng đến việc tinh chỉnh sâu hoặc tích hợp vào các hệ thống phức tạp hơn, Clay cung cấp nhiều mức độ tương tác. Tính linh hoạt này mở rộng đáng kể phạm vi ứng dụng tiềm năng của mô hình, làm cho nó trở nên phù hợp với nhiều nhiệm vụ nghiên cứu khoa học và giám sát vận hành hơn so với một mô hình chỉ cung cấp một phương thức tương tác duy nhất.

Tuy nhiên, mặc dù tiềm năng ứng dụng là rất lớn ², việc cung cấp các minh chứng rõ ràng và các kết quả đánh giá định lượng (như độ chính xác >90% được đề cập ⁷) là cực kỳ quan trọng để xây dựng lòng tin và thúc đẩy sự chấp nhận của người dùng. Điều này càng trở nên cần thiết khi có những phản hồi từ cộng đồng cho thấy sự bối rối ban đầu trong việc hình dung các ứng dụng cụ thể.³ Do đó, việc tiếp tục phát triển tài liệu hướng dẫn chi tiết, các ví dụ thực hành (như ví dụ về tinh chỉnh phân loại ⁹), và công bố các kết quả benchmark sẽ giúp bắc cầu giữa khả năng kỹ thuật của mô hình và việc triển khai thực tế trong cộng đồng rộng lớn hơn. Ứng dụng mẫu không cần mã ⁷ là một bước đi đúng hướng trong nỗ lực này.

Phần 5: Tiếp cận Mở vì Lợi ích Toàn cầu: Khám phá Hệ sinh thái Clay

5.1 Cam kết với Mã nguồn Mở

Triết lý mã nguồn mở là nền tảng của dự án Clay. Điều này được thể hiện rõ qua việc lựa chọn các giấy phép cụ thể cho từng thành phần của hệ sinh thái:

• Mã nguồn: Được phát hành dưới giấy phép Apache 2.0 ¹, một giấy phép rất thông thoáng, cho phép người dùng tự do sử dụng, sửa đổi và phân phối lại mã nguồn, ngay cả cho mục đích thương mại, với các yêu cầu tối thiểu về việc ghi nhận tác giả và thông báo thay đổi.
• Trọng số Mô hình: Được cung cấp dưới giấy phép OpenRAIL-M.¹ Giấy phép này được thiết kế đặc biệt cho việc chia sẻ các mô hình AI một cách có trách nhiệm, thường đi kèm với các điều khoản hạn chế sử dụng nhất định để ngăn chặn các ứng dụng có hại hoặc phi đạo đức. Người dùng cần xem xét kỹ các điều khoản của giấy phép này.
• Tài liệu Hướng dẫn: Sử dụng giấy phép Creative Commons Attribution (CC-BY) ¹, cho phép chia sẻ và điều chỉnh tài liệu miễn là ghi công tác giả gốc.
• Embeddings Dữ liệu Huấn luyện: Có kế hoạch phát hành các embeddings được tạo ra từ dữ liệu huấn luyện trên nền tảng Source Cooperative dưới giấy phép ODC-BY (Open Data Commons Attribution License).² Điều này càng tăng cường tính minh bạch và khả năng tái tạo kết quả nghiên cứu.

Một điểm quan trọng cần lưu ý là về giấy phép của các mô hình được tinh chỉnh (fine-tuned). Nếu người dùng sử dụng dữ liệu độc quyền hoặc có giấy phép riêng để tinh chỉnh Clay, thì mô hình tinh chỉnh đó có khả năng sẽ phải tuân theo các điều khoản cấp phép của dữ liệu được sử dụng bổ sung, bao gồm cả các yêu cầu về ghi công.⁸

Việc lựa chọn các giấy phép mở khác nhau cho từng thành phần (mã nguồn, trọng số, tài liệu, dữ liệu) ¹ phản ánh một chiến lược có chủ ý nhằm tối đa hóa khả năng tiếp cận và tái sử dụng có trách nhiệm. Sự cân bằng giữa tính mở (Apache 2.0, CC-BY) và các hướng dẫn sử dụng có trách nhiệm (OpenRAIL-M) là rất quan trọng. Người dùng cần nhận thức rõ về các giấy phép khác nhau áp dụng cho từng phần của hệ sinh thái, đặc biệt là giấy phép OpenRAIL-M cho trọng số mô hình.

5.2 Tiếp cận Hệ sinh thái Clay

Để cộng đồng có thể khai thác Clay, các tài nguyên chính được cung cấp công khai tại các địa chỉ sau:

• Trang web Chính thức: madewithclay.org.¹ Trang web này được mô tả là có giao diện “dễ chịu” nhưng cũng có thể gây “phân tâm” hoặc ban đầu chưa thực sự rõ ràng về chức năng đối với một số người dùng.³
• Kho Mã nguồn (Code Repository): Đặt tại GitHub: github.com/Clay-foundation/model.¹ Kho lưu trữ này chứa toàn bộ mã nguồn của mô hình. Hướng dẫn cơ bản về cài đặt (sao chép kho lưu trữ, sử dụng mamba để tạo môi trường ảo, chạy thử nghiệm) cũng được cung cấp.⁵ Sự hiện diện của các Issues (vấn đề) và Pull Requests (yêu cầu hợp nhất mã) đang hoạt động cho thấy quá trình phát triển tích cực và liên tục.⁵
• Trọng số Mô hình (Model Weights): Có thể tải xuống từ Hugging Face Hub: huggingface.co/made-with-clay/Clay.¹ Các điểm kiểm tra (checkpoints) của mô hình có sẵn tại đây.⁶ Phiên bản chính thức mới nhất được đề cập là v1.0, phát hành vào ngày 6 tháng 6 năm 2024 ⁵, và phiên bản v1.5 đang được phát triển và dự kiến phát hành.⁸
• Tài liệu Hướng dẫn (Documentation): Truy cập tại clay-foundation.github.io/model/.¹ Tài liệu được xây dựng bằng Jupyter Book ⁵ và được người dùng đánh giá là hữu ích, mặc dù đang trong quá trình phát triển nhanh chóng.⁶ Hướng dẫn xây dựng và xem trước tài liệu cục bộ cũng có sẵn.⁵
• Các Công cụ Liên quan: Clay không chỉ là một mô hình đơn lẻ mà còn là trung tâm của một hệ sinh thái đang phát triển. Tổ chức Clay Foundation trên GitHub còn lưu trữ các kho mã nguồn cho các công cụ phụ trợ như:

• stacchip: Một thư viện Python để tạo các “chip” ảnh (image chips) nhỏ, sẵn sàng cho học máy từ các mục dữ liệu STAC (SpatioTemporal Asset Catalog) lớn.⁴ Công cụ này giải quyết một thách thức phổ biến trong quy trình làm việc EO: chuẩn bị dữ liệu đầu vào cho mô hình ML từ các cảnh vệ tinh lớn. Nó tận dụng các công nghệ tối ưu cho đám mây như Cloud Optimized Geotiffs (COG), STAC và GeoParquet để tạo chỉ mục và cắt chip ảnh một cách linh hoạt và hiệu quả.¹²
• earth-text: Một dự án nhằm bổ sung khả năng xử lý ngôn ngữ vào Clay, có thể mở ra các ứng dụng kết hợp dữ liệu hình ảnh và văn bản.⁴

Sự phát triển của các công cụ hỗ trợ như stacchip và earth-text ⁴ cho thấy Clay đang hướng tới việc xây dựng một hệ sinh thái hoàn chỉnh, giải quyết các thách thức thực tế trong quy trình làm việc với dữ liệu EO và học máy. Cách tiếp cận hệ sinh thái này làm tăng giá trị của Clay và giúp việc tích hợp vào các ứng dụng thực tế trở nên dễ dàng hơn, vì nó cung cấp giải pháp cho các vấn đề liền kề ngoài việc chỉ chạy mô hình cốt lõi.

5.3 Vai trò của Radiant Earth Foundation

Như đã đề cập, Radiant Earth Foundation đóng vai trò là tổ chức bảo trợ tài chính cho Clay.¹ Radiant Earth là một tổ chức phi lợi nhuận tập trung vào việc thúc đẩy ứng dụng công nghệ địa không gian mở để giải quyết các thách thức phát triển toàn cầu và môi trường. Sự tham gia của họ không chỉ đảm bảo nguồn lực mà còn định hướng Clay theo các nguyên tắc khoa học mở, hợp tác và tạo tác động tích cực.⁶

5.4 Cộng đồng và Hợp tác

Bản chất mở của Clay thúc đẩy sự tham gia và hợp tác của cộng đồng. Quá trình phát triển diễn ra công khai trên GitHub, nơi người dùng có thể báo cáo lỗi, đề xuất tính năng mới thông qua Issues ⁵ và đóng góp mã nguồn thông qua Pull Requests.⁵ Các cuộc thảo luận trên các nền tảng như Hacker News ³ hay các video hướng dẫn trên YouTube ⁶ (mặc dù chất lượng có thể khác nhau) cũng góp phần xây dựng cộng đồng xung quanh Clay. Ngoài ra, việc tổ chức các thử thách (challenges) và đánh giá (evaluations) sử dụng Clay ⁴ cho thấy nỗ lực trong việc benchmark mô hình và thu hút sự tham gia của cộng đồng nghiên cứu.

Mặc dù dự án rất mở, phản hồi từ người dùng cho thấy rằng việc truyền đạt thông tin và tài liệu hướng dẫn vẫn đang trong quá trình hoàn thiện và là yếu tố then chốt để tối đa hóa tác động.³ Một số người dùng ban đầu gặp khó khăn trong việc nắm bắt đầy đủ phạm vi và ứng dụng của mô hình.³ Do đó, việc cải tiến liên tục tài liệu, hướng dẫn và các ví dụ ứng dụng rõ ràng sẽ rất quan trọng để Clay Foundation thực sự hiện thực hóa tiềm năng “dân chủ hóa” mà mô hình này hứa hẹn.

Phần 6: Định hình Tương lai: Tác động của Clay đối với Khoa học Trái đất và AI

6.1 Dân chủ hóa AI trong Quan sát Trái đất

Clay đang góp phần quan trọng vào việc “dân chủ hóa” khả năng tiếp cận các phân tích Quan sát Trái đất tiên tiến. Sự kết hợp giữa công nghệ embeddings hiệu quả (giảm yêu cầu tính toán và kỹ năng), mô hình và mã nguồn mở (giảm rào cản truy cập), cùng với sự bảo trợ của một tổ chức phi lợi nhuận ¹, tạo điều kiện cho một phạm vi rộng lớn hơn các nhà nghiên cứu, tổ chức môi trường, nhà hoạch định chính sách và thậm chí cả các cơ sở giáo dục có thể khai thác sức mạnh của AI để hiểu rõ hơn về hành tinh của chúng ta. Việc hạ thấp các rào cản này có tiềm năng thúc đẩy đổi mới và ứng dụng EO trong nhiều lĩnh vực, từ giám sát biến đổi khí hậu đến quản lý tài nguyên bền vững và ứng phó với thiên tai.

6.2 Clay trong Bối cảnh AI Không gian Địa lý

Clay không tồn tại đơn lẻ mà là một phần của một lĩnh vực đang phát triển nhanh chóng: các mô hình nền tảng AI cho Quan sát Trái đất.⁷ Các mô hình khác như SatCLIP của Microsoft và Prithvi của NASA cũng đang khám phá tiềm năng tương tự.⁷ Trong bối cảnh này, Clay tạo sự khác biệt thông qua cam kết mạnh mẽ với mã nguồn mở, các lựa chọn kiến trúc cụ thể (ViT+MAE được tùy chỉnh cho không gian-thời gian), và sự liên kết với sứ mệnh vì lợi ích cộng đồng của Radiant Earth Foundation.

Hơn nữa, lĩnh vực Quan sát Trái đất, với nguồn dữ liệu khổng lồ thường được cấp phép mở và đại diện cho các quan sát thực tế về thế giới vật lý, mang đến một cơ hội độc đáo để định hình việc quản trị và phát triển AI có trách nhiệm.⁷ Clay, với bản chất mở và được xây dựng trên chính nguồn dữ liệu này, nằm ở giao điểm quan trọng này. Quá trình phát triển và triển khai Clay có thể đóng vai trò như một nghiên cứu điển hình hoặc đóng góp vào việc xây dựng các thực hành tốt nhất về tính minh bạch, giảm thiểu thiên vị (ví dụ: nỗ lực giảm thiên vị trong dữ liệu độ phân giải cao bằng cách thêm dữ liệu Satellogic ⁸), và các cân nhắc đạo đức trong ứng dụng AI vào các vấn đề thực tế.

6.3 Kết luận: Tiềm năng và Triển vọng

Clay đại diện cho một bước tiến đáng kể trong việc áp dụng trí tuệ nhân tạo vào khoa học Trái đất. Bằng cách cung cấp một mô hình nền tảng mã nguồn mở, mạnh mẽ và linh hoạt, Clay có tiềm năng to lớn để giúp giải quyết một số thách thức toàn cầu cấp bách nhất, từ biến đổi khí hậu, mất đa dạng sinh học đến phát triển bền vững.

Hướng về tương lai, Clay vẫn đang tiếp tục phát triển với các phiên bản mới như v1.5 đang được hoàn thiện ⁸, tiềm năng tích hợp sâu hơn với các phương thức dữ liệu khác như ngôn ngữ tự nhiên thông qua các dự án như earth-text ¹³, và sự thành công lâu dài phụ thuộc rất nhiều vào sự đóng góp và hợp tác của cộng đồng khoa học và phát triển toàn cầu. Clay không chỉ là một công cụ công nghệ; nó là một minh chứng cho tiềm năng biến đổi của AI mở và hợp tác trong việc nâng cao hiểu biết và bảo vệ hành tinh của chúng ta cho các thế hệ tương lai. Sự thành công của Clay sẽ phụ thuộc vào khả năng duy trì lợi thế mã nguồn mở, nuôi dưỡng cộng đồng và chứng minh giá trị rõ ràng so với các giải pháp thay thế, bao gồm cả các mô hình thương mại nguồn đóng tiềm năng.⁷

Works cited

1. made-with-clay/Clay – Hugging Face, accessed May 6, 2025, https://huggingface.co/made-with-clay/Clay
2. Clay Foundation Model, accessed May 6, 2025, https://clay-foundation.github.io/model/index.html
3. Clay Foundation Model: An open source AI model for Earth | Hacker News, accessed May 6, 2025, https://news.ycombinator.com/item?id=39020175
4. Clay Foundation – GitHub, accessed May 6, 2025, https://github.com/clay-foundation
5. The Clay Foundation Model – An open source AI model and interface for Earth – GitHub, accessed May 6, 2025, https://github.com/Clay-foundation/model
6. Clay – Opensource AI Model for Earth – YouTube, accessed May 6, 2025, https://www.youtube.com/watch?v=0yYawdBAbpE
7. How AI is revolutionizing Earth observation | World Economic Forum, accessed May 6, 2025, https://www.weforum.org/stories/2024/10/ai-embeddings-earth-observation/
8. Training run for Clay v1.5 · Issue #283 · Clay-foundation/model – GitHub, accessed May 6, 2025, https://github.com/Clay-foundation/model/issues/283
9. Classification head fine tuning — Clay Foundation Model, accessed May 6, 2025, https://clay-foundation.github.io/model/finetune/classify.html
10. Basic Use — Clay Foundation Model, accessed May 6, 2025, https://clay-foundation.github.io/model/getting-started/basic_use.html
11. Repositories – Clay Foundation – GitHub, accessed May 6, 2025, https://github.com/orgs/Clay-foundation/repositories
12. Clay-foundation/stacchip: Dynamically create image chips from STAC items – GitHub, accessed May 6, 2025, https://github.com/Clay-foundation/stacchip
13. Clay-foundation/earth-text: Adding language to Clay – GitHub, accessed May 6, 2025, https://github.com/Clay-foundation/earth-text
14. Clay-foundation/clay-challenge-evaluation – GitHub, accessed May 6, 2025, https://github.com/Clay-foundation/clay-challenge-evaluation
15. Jack-bo1220/Awesome-Remote-Sensing-Foundation-Models – GitHub, accessed May 6, 2025, https://github.com/Jack-bo1220/Awesome-Remote-Sensing-Foundation-Models