Parallel Computation

Pengertian

Secara tradisional, perangkat lunak yang telah ditulis untuk perhitungan serial. Dalam arti sederhana, komputasi paralel adalah penggunaan simultan dari beberapa sumber penghitungan untuk memecahkan masalah komputasi, contoh :

Untuk dijalankan menggunakan beberapa CPU.

Suatu masalah dipecah menjadi beberapa bagian terpisah yang dapat diselesaikan secara bersama.

Setiap bagian kemudian dipecah menjadi serangkaian instruksi.

Instruksi dari setiap bagian mengeksekusi secara bersamaan pada CPU yang berbeda.

Parallelism Concept

Paralelisme telah digunakan selam bertahun-tahun terutama dalam komputasi kinerja tinggi, tetapi kepentigan di dalamnya telah berkembang akhir-akhir ini karena kendala fisik mencegah penskalaan frekuensi. Sebagai konsumsi daya oleh komputer menjadi perhatian dalam beberapa tahun terakhir, komputasi paralel telah mejadi paradigma dominan dalam arsitektur komputer, terutama dalam bentuk prosesor multicore.

Distributed Processing

Pemrosesan terdistribusi mempercepat pengolahan dengan mendistribusikan  pekerjaan ke banyak komputer yang telah dipilih untuk memberi kekuatan pemrosesan lebih. Komputer berinteraksi satu sama lain untuk mencapai tujuan bersama.

Architectural Parallel Computer

Karakteristik umum:

- Pembagian memory pada komputer paralel  sangat bervariasi, tetapi umumnya memiliki kesamaan kemampuan untuk semua prosesor untuk mengakses semua memori sebagai ruang alamat global.

- Beberapa prosesor dapat beroperasi secara independen tetapi berbagi sumber daya memori yang sama.

- Perubahan lokasi memori dipengaruhi oleh satu prosesor yang terlihat untuk semua prosesor lainnya.

- Mesin memori bersama dapat dibagi menjadi dua kelas utama berdasarkan waktu akses memori: UMA dan NUMA.

Pengantar Thread Programming

Model pemrograman ini adalah jenis pemrograman memori bersama. Dalam Thread Programming Paralel, sebuah proses tunggal dapat memiliki beberapa, jalur eksekusi konkuren. Dari perspektif pemrograman, implementasi threads umumnya terdiri dari :

- Sebuah perpustakaan subrutin yang dipanggil dalam kode sumber paralel.

- Satu set perintah kompiler tertanam dalam kode sumber baik serial atau paralel.

Dalam kedua kasus, programmer bertanggung jawab untuk menentukan semua paralelisme.

Implementasi thread bukan hal baru dalam komputasi, Secara historis, perusahaan hardware menerapkan thread versi mereka sendiri. Implementasi tersebut berada secara substansial dari satu sama lain sehingga sulit bagi programmer untuk mengembangkan aplikasi thread portabel.

Pengantar Message Passing, OpenMP

Model ini menunjukkan karakteristik sebagai berikut:

- Sebuah set tugas yang menggunakan memori lokal mereka sendiri selama perhitungan.

- Tugas pertukaran data melalui komunikasi dengan mengirim dan menerima pesan.

- Transfer data biasanya memerlukan kerjasama operasi yang akan dilakukan oleh masing-masing proses.

Pengantar Pemrograman CUDA GPU

Cuda adalah platform komputasi paralel dan model pemrograman yangdiciptakan oleh NVIDIA. hal ini memungkinkan peningkatan dramatis dalam kinerja komputasi dengan memanfaatkan kekuatan dari Graphics Processing Unit(GPU)

Referensi Referensi Referensi Referensi