Parallel Computation (Pemrosesan Paralel)

I. Pengertian Parallel Computation

Pemrosesan Paralel

Pemrosesan Paralel adalah penggunakan lebih dari satu CPU untuk menjalankan sebuah program secara simultan. Pemrosesan Paralel membuat program berjalan lebih cepa karena CPU yang digunakan makin banyak. Tetapi dalam praktek,seringkali sulit membagi program sehingga dapat dieksekusi oleh CPU yang berbeda-beda tanpa berkaitan di antaranya.

Pemrograman Paralel

Pemrograman paralel adalah teknik pemrograman komputer yang memungkinkan eksekusi perintah/operasi secara bersamaan baik dalam komputer dengan satu (prosesor tunggal) ataupun banyak (prosesor ganda dengan mesin paralel) CPU. Tujuan utama dari pemrograman paralel adalah untuk meningkatkan performa komputasi. Semakin banyak hal yang bisa dilakukan secara bersamaan (dalam waktu yang sama), semakin banyak pekerjaan yang bisa diselesaikan.

Menurut Wikipedia

Komputasi paralel adalah salah satu teknik melakukan komputasi secara bersamaan dengan memanfaatkan beberapa komputer independen secara bersamaan. Ini umumnya diperlukan saat kapasitas yang diperlukan sangat besar, baik karena harus mengolah data dalam jumlah besar (di industri keuangan, bioinformatika, dll) ataupun karena tuntutan proses komputasi yang banyak. Kasus kedua umum ditemui di kalkulasi numerik untuk menyelesaikan persamaan matematis di bidang fisika (fisika komputasi), kimia (kimia komputasi) dll.

Secara Umum

Komputasi paralel adalah salah satu teknik melakukan komputasi secara bersamaan dengan memanfaatkan beberapa komputer secara bersamaan. Biasanya diperlukan saat kapasitas yang diperlukan sangat besar, baik karena harus mengolah data dalam jumlah besar ataupun karena tuntutan sebuah proses komputasi yang banyak. Untuk melakukan aneka jenis komputasi paralel ini diperlukan infrastruktur mesin paralel yang terdiri dari banyak komputer yang dihubungkan dengan jaringan dan mampu bekerja secara paralel untuk menyelesaikan satu masalah. Untuk itu diperlukan aneka perangkat lunak pendukung yang biasa disebut sebagai middleware yang berperan untuk mengatur distribusi pekerjaan antar node dalam satu mesin paralel. Selanjutnya pemakai harus membuat pemrograman paralel untuk merealisasikan komputasi.

Parallel Computation dapat dibentuk dari :

Ada : digunakan konsep pertemuan yang menggabungkan fitur RPC dan monitor.
PVM (Parallel Virtual Machine) untuk mendukung workstation clusters.
MPI (Message-Passing Interface) programming GUI untuk parallel computers.

II. Tujuan Pemrosesan Paralel

Pemrosesan paralel memiliki tujuan utama yaitu untuk meningkatkan performa komputasi. Semakin banyak hal yang bisa dilakukan secara bersamaan (dalam waktu yang sama), semakin banyak pekerjaan yang bisa diselesaikan.

III. Arsitektur Komputer Paralel

Taksonomi Flynn dan model pemrosesan parallel

Ada 4 kelompok dalam arsitektur komputer paralel, yaitu :

Single Instruction Single Data stream (SISD) : Jenis Komputer yang hanya memiliki satu prosesor dan satu instruksi yang dieksekusi secara serial.
Single Instruction Multiple Data stream (SIMD) : Jenis komputer yang memiliki lebih dari satu prosesor, tetapi komputer ini hanya mengeksekusi satu instruksi secara paralel pada data yang berbeda pada sebuah level lock-step.
Multiple Instruction Single Data stream (MISD) : Jenis komputer yang memiliki satu prosesor dan mengeksekusi beberapa instruksi secara paralel tetapi di dalam praktiknya tak ada komputer yang dibangun dengan arsitektur ini karena sistemnya sulit dipahami, sampai saat ini pun belum ada komputer yang menggunakan arsitektur jenis ini.
Multiple Instruction Multiple Data stream (MIMD) : Jenis komputer yang memiliki lebih dari satu prosesor dan mengeksekusi lebih dari satu instruksi secara paralel. Tipe komputer ini yang paling banyak digunakan untuk membangun sebuah komputer paralel, bahkan banyak supercomputer yang menerapkan arsitektur ini, karena model dan konsepnya yang tidak terlalu rumit untuk dipahami.

5-758ae04e6c

IV. Bahasa Pemrograman yang digunakan pada Pemrosesan Parallel

Message Passing Interface (MPI)

Message Passing Interface (MPI) adalah sebuah standard pemrograman yang memungkinkan pemrogram untuk membuat sebuah aplikasi yang dapat dijalankan secara paralel. Proses yang dijalankan oleh sebuah aplikasi dapat dibagi untuk dikirimkan ke masing – masing compute node yang kemudian masing – masing compute node tersebut mengolah dan mengembalikan hasilnya ke komputer head node.

Kegunaan MPI :

menulis kode paralel secara portable.
mendapatkan performa yang tinggi dalam pemrograman paralel.
menghadapi permasalahan yang melibatkan hubungan data irregular atau dinamis yang tidak begitu cocok dengan model data paralel.

Parallel Virtual Machine (PVM)

Parallel Virtual Machine (PVM) adalah paket software yang mendukung pengiriman pesan untuk komputasi parallel antar komputer. PVM dapat berjalan diberbagai macam variasi UNIX atau pun windows dan telah portable untuk banyak arsitektur seperti PC, workstation, multiprocessor dan superkomputer.

Komponen PVM

PVM daemon merupakan semacam program yang berjalan di “belakang” dan biasanya menangani program dari para klien. Komponen ini berada pada setiap komputer yang terhubung dalam virtual machine (mesin virtual). PVM Berguna untuk membentuk konfigurasi host dalam PVM dan mengkoordinir komunikasi antar host.
PVM libraries merupakan komponen antarmuka pemakai PVM untuk melakukan pengiriman pesan, pembuatan proses, koordinasi proses dan modifikasi virtual machine.

V. Komputasi Modern dan Pemrosesan Paralel

Pemrosesan paralel juga disebut komputasi paralel. Dalam upaya lebih murah pengolahan komputasi paralel menyediakan alternatif pilihan yang layak. Waktu idle siklus prosesor di seluruh jaringan dapat digunakan secara efektif oleh perangkat lunak komputasi terdistribusi yang canggih. Pengolahan paralel istilah digunakan untuk mewakili kelas besar teknik yang digunakan untuk memberikan tugas pengolahan simultan data untuk tujuan meningkatkan kecepatan komputasi dari sistem komputer.

VI. Kelebihan dan Kekurangan Pemrosesan Paralel

Kelebihan Pemrosesan Paralel :