Kuliah · Kuliah · Aljabar
Matematika untuk Informatika dan Data/AI
Mata kuliah ini mengumpulkan matematika yang paling sering dipakai pemrogram dan ilmuwan data. Aljabar linear terapan memberi bahasa untuk data (vektor, matriks, kemiripan kosinus, nilai eigen, regresi kuadrat terkecil). Probabilitas dan teorema Bayes memodelkan ketidakpastian. Optimasi dengan gradient descent adalah mesin pelatihan model pembelajaran mesin. Notasi Big-O mengukur seberapa cepat algoritma bertumbuh terhadap ukuran masukan.
Daftar isi
Konsep Matematika untuk Informatika dan Data/AI
Bab 1 — Aljabar linear terapan
Setiap data dapat ditulis sebagai vektor fitur; kumpulan data menjadi matriks berukuran . Hasil kali titik dan norma melahirkan kemiripan kosinus , yang dipakai di mesin pencari dan sistem rekomendasi.
Nilai eigen dan vektor eigen memenuhi , dicari dari . Pada analisis komponen utama (PCA), vektor eigen matriks kovarians menunjukkan arah variasi terbesar, dan proporsi variansi yang dijelaskan komponen ke- adalah . Regresi kuadrat terkecil menyelesaikan persamaan normal ; untuk satu fitur, kemiringannya . Dekomposisi nilai singular (SVD) memperumum gagasan ini untuk kompresi dan reduksi dimensi.
Bab 2 — Probabilitas
Peluang memenuhi , , dan aturan penjumlahan . Peluang bersyarat ; kejadian saling bebas jika .
Teorema Bayes membalik arah peluang bersyarat:
Teorema ini menjadi dasar pengklasifikasi Naive Bayes (misalnya penyaring spam). Variabel acak diringkas oleh nilai harapan dan variansi . Distribusi baku: Bernoulli, binomial (, ), Poisson, dan normal.
Bab 3 — Optimasi dan gradient descent
Melatih model berarti meminimumkan fungsi rugi , misalnya galat kuadrat rata-rata. Syarat perlu minimum adalah , dan fungsi konveks menjamin setiap minimum lokal adalah minimum global.
Gradient descent memperbarui parameter berlawanan arah gradien:
dengan laju belajar . Untuk , galat menyusut dengan faktor setiap langkah: konvergen jika , berosilasi jika , dan divergen jika . Varian praktis meliputi stochastic gradient descent (gradien dari sebagian data), momentum, dan Adam. Untuk optimasi berkendala dipakai pengali Lagrange.
Bab 4 — Kompleksitas dan notasi Big-O
jika ada konstanta dan sehingga untuk semua ; memberi batas bawah dan batas ketat. Hanya suku dengan pertumbuhan tercepat yang menentukan: .
| Kelas | Contoh algoritma |
|---|---|
| akses elemen larik | |
| pencarian biner | |
| pencarian linear | |
| merge sort | |
| bubble sort | |
| mencoba semua himpunan bagian |
Algoritma rekursif dianalisis dengan relasi rekurensi. Teorema master untuk : jika , maka ; merge sort (, ) termasuk kasus ini.
Rumus
Contoh soal matematika untuk informatika dan data/ai dan pembahasan
Kemiripan kosinus dua dokumen
Dua dokumen direpresentasikan oleh vektor frekuensi kata dan . Hitung kemiripan kosinusnya.
Lihat langkah penyelesaian
- .
- dan .
- , mendekati 1, jadi kedua dokumen sangat mirip.
Kemiripan kosinusnya .
Teorema Bayes pada penyaring spam
Sebanyak 20% email adalah spam. Kata "gratis" muncul pada 60% email spam dan 5% email bukan spam. Jika sebuah email memuat kata "gratis", berapa peluang email itu spam?
Lihat langkah penyelesaian
- , , .
- .
- .
Peluangnya atau 75%.
Proporsi variansi pada PCA
Matriks kovarians dua fitur adalah . Tentukan nilai eigennya dan proporsi variansi yang dijelaskan komponen utama pertama.
Lihat langkah penyelesaian
- memberi atau .
- Vektor eigen untuk adalah : arah variasi terbesar.
- Proporsi variansi . Perhatikan sama dengan jejak , yaitu total variansi.
Nilai eigen 4 dan 2; komponen pertama menjelaskan variansi.
Dua langkah gradient descent
Minimumkan dengan gradient descent dari dan laju belajar . Tentukan .
Lihat langkah penyelesaian
- .
- .
- .
- Galat menjadi 3; 1,5; 0,75: menyusut dengan faktor menuju minimum .
.
Rekurensi merge sort
Banyak perbandingan merge sort dimodelkan dengan . Hitung dan nyatakan kompleksitasnya.
Lihat langkah penyelesaian
- Uraikan: setiap tingkat rekursi menyumbang total dan ada tingkat, sehingga untuk pangkat dari 2.
- Cek kecil: .
- .
- Teorema master dengan , memberi .
, dan kompleksitasnya .
Kesalahan yang sering terjadi
Coba sendiri
Tulis jawabanmu, tekan Periksa. Jika belum tepat, buka petunjuk satu per satu.
Pembahasan
.
Pembahasan
. Cara lain: .
Pembahasan
dan . Iterasi menuju minimum .
Kuis 5 soal
Kerjakan semua soal, lalu periksa sekaligus.
Pembahasan
Ukuran ruang pencarian menjadi , sehingga banyak langkah sekitar .
Pembahasan
Benar. , sehingga untuk .
Pembahasan
. Pencarian linear membutuhkan hingga 1.000 perbandingan.
Pembahasan
Nilai eigen 2 dan 3, determinan 6, jejak 5 (C salah). Karena , punya invers. sudah diagonal (E salah).
Pembahasan
perkalian, sehingga kompleksitasnya .
Latihan tanpa batas
Soal kembar dengan angka baru, petunjuk bertingkat, dan catatan penguasaanmu.
Tanya jawab
Seberapa dalam matematika yang dibutuhkan untuk belajar AI?
Untuk memakai pustaka pembelajaran mesin, cukup memahami vektor, matriks, turunan, dan probabilitas dasar. Untuk merancang atau meneliti model, dibutuhkan aljabar linear yang kuat, kalkulus multivariabel, statistika, dan teori optimasi.
Mengapa Big-O mengabaikan konstanta?
Konstanta bergantung pada perangkat keras dan bahasa pemrograman, sedangkan laju pertumbuhan menentukan apakah algoritma tetap praktis ketika data membesar dari ribuan menjadi miliaran.
Topik terkait
Pelajari dulu (prasyarat)
- Tidak ada prasyarat khusus.
Topik lanjutan
- Belum ada.
Ringkasan untuk guru
Tujuan pembelajaran
- Mahasiswa memakai vektor, matriks, nilai eigen, dan kuadrat terkecil untuk mengolah data.
- Mahasiswa menghitung peluang bersyarat, menerapkan teorema Bayes, serta nilai harapan dan variansi.
- Mahasiswa menjalankan gradient descent dan menganalisis pengaruh laju belajar.
- Mahasiswa menentukan kompleksitas algoritma dengan notasi Big-O dan relasi rekurensi.
Ide aktivitas kelas
- Notebook mini: mahasiswa menulis gradient descent untuk regresi linear dari nol, lalu membandingkan hasilnya dengan solusi persamaan normal.
- Penyaring spam sederhana: kelompok menghitung peluang kata dari kumpulan pesan contoh dan menerapkan teorema Bayes untuk mengklasifikasikan pesan baru.
- Lomba stopwatch algoritma: mahasiswa mengukur waktu pencarian linear dan biner untuk berbagai ukuran data, lalu mencocokkan grafiknya dengan kurva Big-O.
Acuan: Silabus umum mata kuliah matematika untuk informatika, sains data, dan kecerdasan artifisial (disusun tim redaksi), elemen Aljabar.