Hal yang akan diatur dalam UU ini meliputi, pertama, mengatur klasifikasi dan pembedaan platform atau instrumen AI sesuai dengan tingkat risiko yang dirasakan, dari rendah hingga yang tidak dapat diterima.
Berdasarkan hal ini, Pemerintah dan perusahaan yang menggunakan alat ini akan memiliki kewajiban berbeda, bergantung pada tingkat risikonya.
Kedua, undang-undang ini memiliki lingkup luas dan akan mengatur siapa saja subjek yang menyediakan produk atau layanan yang menggunakan AI.
Undang-undang ini akan mencakup pengaturan terkait sistem yang dapat menghasilkan luaran seperti konten, prediksi, rekomendasi, atau keputusan yang memengaruhi lingkungan.
Ketiga, selain penggunaan AI oleh perusahaan, juga mencakup AI yang digunakan di sektor publik dan penegak hukum. Hal ini akan terkait dengan undang-undang lain seperti GDPR.
Materi muatan juga mencakup penggunaan sistem AI yang berinteraksi dengan manusia, digunakan untuk tujuan pengawasan, atau dapat digunakan untuk menghasilkan konten "deepfake" dengan kewajiban transparansi secara ketat.
Rancangan UU Uni Eropa ini juga menjadi perhatian Forum Ekonomi dunia. Seperti dirilis dalam laman official World Economy Forum, 28 Maret 2023, dengan judul, "The European Union’s Artificial Intelligence Act, explained" bahwa Undang-Undang Kecerdasan Buatan Uni Eropa, akan mengklasifikasikan sistem AI berdasarkan risiko dan mengamanatkan berbagai persyaratan pengembangan dan penggunaannya.
Apa yang termasuk AI risiko tinggi? Platform AI dapat dianggap berisiko tinggi jika digunakan pada infrastruktur penting, seperti penegakan hukum, atau pendidikan.
Platform ini berada satu tingkat di bawah kriteria "tidak dapat diterima (unacceptable)" sehingga tidak langsung dilarang.
Platform AI berisiko tinggi dapat diwajibkan untuk menyelesaikan penilaian risiko yang ketat, mencatat aktivitas mereka, dan menyediakan data bagi pihak berwenang untuk diteliti.
Akan banyak AI kategori berisiko tinggi dikontrol secara ketat, seperti bidang keamanan produk. Hal yang juga diatur adalah terkait penegakan hukum, imigrasi, infrastruktur, dan administrasi peradilan.
Sedangkan untuk sistem AI dengan risiko kecil dan minimal, seperti filter spam, atau video game, akan tetap diizinkan untuk digunakan. Tentu dengan persyaratan minimal selain kewajiban transparansi.
Sedangkan sistem yang dianggap berisiko yang "tidak dapat diterima (unacceptable)", seperti sistem identifikasi biometrik realtime di ruang publik, akan dilarang dengan sedikit pengecualian.
Hal yang juga diatur adalah terkait General Purpose AI System (GPAIS). Pembuat undang-undang AI Uni Eropa memperhitungkan platform AI dengan lebih dari satu fungsi dan aplikasi, seperti model AI generatif ChatGPT, Bard dll.
UU ini juga bertujuan menjawab kebutuhan implementasi di berbagai sektor mulai dari kesehatan, pendidikan hingga keuangan dan energi.