Konsep dasar Sistem pengolahan data (sistem informasi) adalah seperangkat teknis dan perangkat lunak, ditujukan untuk layanan informasi bagi manusia dan objek teknis. Kelas sistem Informasi: komputer (VM) sistem komputer (CS) kompleks komputasi (CC) Jaringan VM dirancang untuk memecahkan berbagai masalah oleh pengguna yang bekerja di berbagai bidang studi. Blok utama VM adalah prosesor. Prosesor memulai dan mengelola proses eksekusi program. VK adalah beberapa VM yang saling berhubungan secara informasi. Selain itu, setiap VM secara independen mengelola proses komputasinya. Pertukaran informasi antara VM kompleks kurang intensif (dibandingkan dengan interaksi informasi prosesor dalam sistem multiprosesor). VC banyak digunakan dalam sistem manajemen informasi.

Konsep dasar BC adalah sistem informasi yang dikonfigurasi untuk memecahkan masalah dalam area aplikasi tertentu, yaitu. ia memiliki spesialisasi perangkat keras dan perangkat lunak. Seringkali, komputer berisi beberapa prosesor, di antaranya terjadi pertukaran informasi intensif selama operasi, dan yang memiliki kontrol terpadu atas proses komputasi. Sistem seperti ini disebut sistem multiprosesor. Jenis pesawat umum lainnya adalah sistem mikroprosesor. Mereka dibangun menggunakan mikroprosesor (MP), mikrokontroler, atau prosesor sinyal digital khusus. Tiga metode yang menjamin peningkatan kinerja sistem: peningkatan basis elemen, metode struktural, dan metode matematika. Sistem komputasi paralel adalah sistem komputer fisik dan perangkat lunak yang mengimplementasikan pemrosesan data paralel dengan satu atau lain cara pada banyak node komputasi.

Klasifikasi Flynn Klasifikasi ini didasarkan pada konsep thread, yaitu rangkaian elemen, instruksi, atau data yang diproses oleh prosesor. Empat kelas arsitektur: SISD, MISD, SIMD, MIMD. SISD (aliran instruksi tunggal / aliran data tunggal) - aliran instruksi tunggal dan aliran data tunggal. Golongan ini mencakup mesin sekuensial klasik (mesin tipe Von Neumann). Dalam mesin seperti itu hanya ada satu aliran instruksi, semua instruksi diproses secara berurutan satu demi satu, dan setiap instruksi memulai satu operasi pada satu aliran data. SIMD (aliran instruksi tunggal / aliran data ganda) - aliran instruksi tunggal dan aliran data ganda. Aliran perintah, tidak seperti SISD, menyertakan perintah vektor. Ini memungkinkan Anda melakukan satu operasi aritmatika pada banyak data - elemen vektor - sekaligus. MISD (aliran instruksi ganda / aliran data tunggal) - aliran beberapa instruksi dan aliran data tunggal. Definisi tersebut menyiratkan adanya arsitektur banyak prosesor yang memproses aliran data yang sama. Belum ada sistem komputasi nyata yang dibangun berdasarkan prinsip ini. MIMD (aliran instruksi ganda / aliran data ganda) - aliran instruksi ganda dan aliran data ganda. Dalam sistem komputer terdapat beberapa perangkat pemrosesan perintah yang digabungkan menjadi satu kompleks dan masing-masing bekerja dengan aliran perintah dan datanya sendiri (sistem multiprosesor).

Sistem komputasi kelas SIMD Model komputasi: satu operasi dilakukan pada blok data yang besar. Dua jenis: sistem pipa vektor dan matriks. Sistem pipa vektor (komputer PVP) Dua prinsip dalam arsitektur prosesor: organisasi pipa pemrosesan aliran perintah; pengenalan serangkaian operasi vektor ke dalam sistem perintah yang memungkinkan Anda beroperasi dengan seluruh larik data beban pipa hampir penuh, dan kecepatan penyediaan operan baru sesuai dengan kinerja maksimum pipa. Operasi vektor memberikan peluang ideal beban penuh pipa komputasi. Saat menjalankan perintah vektor, operasi yang sama diterapkan ke semua elemen vektor. Perintah vektor beroperasi pada seluruh larik data independen, mis. perintah seperti A=B+C berarti menambahkan dua array, bukan dua angka.

Sistem komputasi kelas SIMD Dalam sistem pipa vektor, terdapat beberapa satu atau lebih prosesor pipa yang menjalankan perintah vektor dengan mengirimkan elemen vektor ke dalam pipa dengan interval yang sama dengan durasi satu tahap pemrosesan. Pemrosesan vektor meningkatkan kecepatan dan efisiensi pemrosesan karena pemrosesan seluruh kumpulan data (vektor) dilakukan dengan satu perintah. Pemroses vektor harus memiliki struktur yang jauh lebih kompleks dan, pada kenyataannya, berisi banyak perangkat aritmatika. Organisasi khas sistem komputasi vektor meliputi: unit pemrosesan perintah yang memanggil dan menerjemahkan perintah, pemroses vektor yang menjalankan perintah vektor, pemroses skalar, dan pemroses skalar. yang menjalankan perintah skalar, memori untuk menyimpan program dan data. Panjang vektor yang diproses secara bersamaan dalam komputer vektor modern biasanya 128 atau 256 elemen.

Sistem matriks Sistem matriks paling cocok untuk memecahkan masalah yang bercirikan paralelisme objek atau data independen. Sistem matriks terdiri dari banyak elemen pemrosesan (PE), yang disusun sedemikian rupa sehingga mereka menjalankan perintah vektor yang diberikan oleh perangkat kontrol yang umum, dan setiap PE bekerja dengan elemen vektor terpisah. PE terhubung melalui perangkat switching dengan memori multi-modul. Eksekusi instruksi vektor mencakup membaca elemen vektor dari memori, mendistribusikannya di antara prosesor, melakukan operasi tertentu, dan mengirimkan hasilnya kembali ke memori. Dengan demikian, kinerja sistem sama dengan jumlah kinerja seluruh elemen prosesor.

Sistem komputasi MIMD Arsitektur MIMD bervariasi tergantung pada apakah prosesor memiliki memori lokalnya sendiri dan mengakses blok memori lain menggunakan jaringan switching, atau apakah jaringan switching menghubungkan semua prosesor ke memori bersama. Sistem komputasi sistolik Sistem sistolik adalah komputer yang sangat terspesialisasi dan dibuat untuk tugas tertentu. Faktanya, tugas membangun komputer sistolik adalah membangun pipa perangkat keras yang memiliki waktu yang cukup lama untuk memperoleh hasil (yaitu, sejumlah besar tahapan), tetapi pada saat yang sama waktu yang relatif singkat antara keluaran berurutan dari hasil, karena sejumlah besar nilai antara diproses pada berbagai tahap saluran pipa. Struktur atau lingkungan komputasi homogen (OCS), biasanya, termasuk dalam tipe MIMD dan mewakili kisi biasa dari jenis elemen pemrosesan (PE) yang sama. Setiap PE memiliki algoritmanya set lengkap operasi, serta operasi pertukaran atau interaksi dengan PE lainnya. OBC diimplementasikan berdasarkan mikroprosesor.

Prinsip dasar membangun arsitektur sistolik 1.Sistole adalah jaringan sel komputasi yang terhubung, biasanya sederhana; 2. Setiap sel berisi register input buffer untuk data dan komputer yang beroperasi dengan isi register ini. Keluaran komputer dapat diumpankan ke masukan sel lain; 3.Operasi sistol dilakukan sesuai dengan jenis pemrosesan konveyor; 4. Perhitungan sistol diatur menggunakan sinyal jam umum;

Prinsip dasar membangun arsitektur sistolik Karakteristik utama VA sistolik: homogenitas bidang prosesor, keteraturan (keteguhan) koneksi antarprosesor, fungsi sinkron elemen prosesor. Pada setiap saat, operasi identik secara simultan atau modul komputasi identik dilakukan. Modul tersebut dapat berupa: modul pemrosesan data dan komputasi; modul yang bertanggung jawab untuk komunikasi eksternal. Masing-masing dari dua jenis modul ini dijalankan dalam fase pemrosesannya sendiri. Tahapan pengolahan sistolik VA:K: komunikasi eksternal antara PE; Dalam: perhitungan dalam PE; U: Komputasi dan Manajemen Komunikasi (sangat singkat).

Fase pemrosesan fase Komunikasi VA sistolik. Selama interval waktu ini, data dipertukarkan secara bersamaan antar PE di seluruh jaringan prosesor. Durasi interval harus sesuai dengan operasi komunikasi terpanjang dalam jaringan. Fase komputasi. Melakukan perhitungan dan pemrosesan informasi. Durasi fase ini harus sesuai dengan modul komputasi terpanjang. Fase kontrol. Melakukan operasi pada awal dan akhir pekerjaan di bidang prosesor (sesuai dengan awal dan akhir setiap operasi komputasi). Hentikan proses pemrosesan kapan saja hingga diperoleh hasil. Penerapan VA sistolik: akselerator yang terpasang pada PC dan mengimplementasikan algoritma komputasi tertentu (operasi matriks, penyelesaian sistem persamaan aljabar linier, pengenalan pola, pengurutan, dll.). Dalam hal ini, papan prosesor digunakan sebagai koprosesor. Waktu komputasi berkurang 1–3 kali lipat. prosesor sistolik tertanam dalam sistem teknis yang digunakan untuk pemrosesan digital waktu nyata. Misalnya, algoritma pemfilteran digital, dll.

Komputer paralel besar-besaran (MPP) dengan memori terdistribusi Sistem ini terdiri dari node komputasi yang homogen, termasuk: satu atau lebih unit pemrosesan pusat (biasanya RISC), memori lokal (akses langsung ke memori node lain tidak dimungkinkan), prosesor komunikasi atau adaptor jaringan, terkadang hard drive dan/atau perangkat I/O lainnya Node I/O khusus dan node kontrol dapat ditambahkan ke sistem. Node-node dihubungkan melalui beberapa media komunikasi (jaringan berkecepatan tinggi, switch, dll.) Dua opsi untuk mengoperasikan sistem operasi (OS) pada mesin berarsitektur MPP digunakan: sistem operasi lengkap (OS) hanya berjalan pada mesin kontrol, pada setiap modul individual, berfungsi dengan kuat versi OS yang dipreteli yang memastikan pengoperasian hanya cabang yang terletak di dalamnya aplikasi paralel. Setiap modul menjalankan OS mirip UNIX lengkap, diinstal secara terpisah.

Komputer paralel besar-besaran (MPP) dengan memori terdistribusi Jumlah total prosesor masuk sistem nyata mencapai beberapa ribu. Keuntungan sistem dengan memori terdistribusi adalah skalabilitas yang baik: pada mesin kelas ini, setiap prosesor hanya memiliki akses ke memori lokalnya sendiri, dan oleh karena itu tidak diperlukan sinkronisasi prosesor dari jam ke jam. Kekurangan: kurangnya memori bersama secara signifikan mengurangi kecepatan komunikasi antarprosesor. Teknik pemrograman khusus diperlukan untuk mengimplementasikan pertukaran pesan antar prosesor; setiap prosesor hanya dapat menggunakan bank memori lokal dalam jumlah terbatas; Karena kelemahan ini, diperlukan upaya yang signifikan untuk mencapai penggunaan yang maksimal sumber daya sistem. Hal ini menentukan tingginya harga perangkat lunak untuk sistem paralel besar-besaran dengan memori bersama.

Komputer dengan memori bersama (shared) (SMP) SMP (symmetric multiprocessing) adalah arsitektur multiprosesor simetris. Fitur utama sistem dengan arsitektur SMP adalah adanya kesamaan memori fisik, dibagikan oleh semua prosesor. Memori digunakan untuk mentransfer pesan antar prosesor, sedangkan semua perangkat komputasi ketika mengaksesnya memiliki hak yang sama dan pengalamatan yang sama untuk semua sel memori. Oleh karena itu, arsitektur SMP disebut simetris. Sistem SMP dibangun atas dasar kecepatan tinggi bus sistem, ke slot yang Anda sambungkan blok fungsi jenis: prosesor (CPU), subsistem input/output (I/O), dll. Keseluruhan sistem berjalan dalam satu OS. OS secara otomatis (selama operasi) mendistribusikan proses antar prosesor, tetapi terkadang pengikatan eksplisit juga dimungkinkan.

Komputer dengan memori bersama (shared) (SMP) Keuntungan utama sistem SMP: kesederhanaan dan keserbagunaan untuk pemrograman: model cabang paralel biasanya digunakan, ketika semua prosesor bekerja secara independen satu sama lain. Namun, dimungkinkan juga untuk mengimplementasikan model yang menggunakan komunikasi antarprosesor. Menggunakan memori bersama meningkatkan kecepatan pertukaran tersebut; pengguna juga memiliki akses ke seluruh jumlah memori sekaligus. kemudahan pengoperasian. Biasanya, sistem SMP menggunakan sistem pendingin udara berpendingin udara, sehingga lebih mudah perawatannya; harga yang relatif murah. Kekurangan: Sistem memori bersama tidak dapat diskalakan dengan baik. Kelemahan signifikan dari sistem SMP ini tidak memungkinkan kita untuk menganggapnya benar-benar menjanjikan. Alasan buruknya skalabilitas adalah bus hanya dapat menangani satu transaksi dalam satu waktu. Ketika beberapa prosesor secara bersamaan mengakses area yang sama dari memori fisik bersama, masalah penyelesaian konflik akan muncul. Semua prosesor berbagi akses ke memori umum, biasanya melalui bus atau hierarki bus. Dalam model ideal, prosesor apa pun dapat mengakses sel memori mana pun dalam jumlah waktu yang sama. Dalam praktiknya, skalabilitas arsitektur ini biasanya menghasilkan beberapa bentuk hierarki memori. Untuk memperlancar kesenjangan kecepatan prosesor dan memori utama, setiap prosesor dilengkapi dengan memori buffer berkecepatan tinggi (cache memory) yang beroperasi pada kecepatan prosesor. Dalam hal ini, dalam sistem multiprosesor yang dibangun berdasarkan mikroprosesor tersebut, prinsip akses yang sama ke setiap titik memori dilanggar dan masalah baru- masalah koherensi cache.

Komputer dengan memori bersama (SMP) Untuk memastikan koherensi cache, ada beberapa opsi: gunakan mekanisme pengintaian permintaan bus, di mana cache memonitor variabel yang diteruskan ke salah satu prosesor pusat dan, jika perlu, memodifikasi salinannya sendiri dari variabel tersebut; mengalokasikan bagian khusus dari memori yang bertanggung jawab untuk memantau keandalan semua salinan variabel yang digunakan. Keuntungan utama sistem SMP adalah relatif mudahnya pemrograman. Karena semua prosesor memiliki akses yang sama cepatnya ke OP, pertanyaan tentang prosesor mana yang akan melakukan perhitungan apa tidak begitu mendasar, dan sebagian besar algoritma komputasi yang dikembangkan untuk komputer prosesor tunggal dapat dieksekusi dengan kecepatan yang dipercepat dalam sistem multiprosesor menggunakan paralelisasi dan kompiler “memvektorisasi”. Sistem SMP adalah jenis pesawat paralel yang paling umum saat ini. Dalam sistem nyata, tidak lebih dari 32 prosesor yang dapat digunakan. Sistem MPP memungkinkan Anda membuat sistem dengan kinerja tertinggi. Node dari sistem tersebut seringkali merupakan sistem SMP.

Komputer dengan memori virtual umum (bersama) (sistem NUMA) Arsitektur NUMA (akses memori nonuniform) menggabungkan keunggulan sistem SMP (relatif mudah dalam pengembangan program) dan sistem MPP (skalabilitas yang baik - kemampuan untuk meningkatkan jumlah node prosesor di sistem). Fitur utamanya adalah akses heterogen ke memori. Intinya ada pada organisasi khusus memori. Memori didistribusikan secara fisik berbagai bagian sistem, tapi secara logis itu dibagikan, sehingga pengguna melihat satu ruang alamat. Masing-masing modul homogen terdiri dari sejumlah kecil prosesor dan unit memori. Modul-modul tersebut dihubungkan menggunakan saklar berkecepatan tinggi. Ruang alamat tunggal didukung, akses ke memori jarak jauh didukung di perangkat keras, mis. ke memori modul lain. Dalam hal ini, akses ke memori lokal beberapa kali lebih cepat dibandingkan ke memori jarak jauh. Pada dasarnya, arsitektur NUMA adalah arsitektur MPP (paralel masif), di mana node SMP (multiprosesor simetris) diambil sebagai elemen komputasi terpisah. Akses memori dan pertukaran data dalam satu node SMP dilakukan melalui memori lokal node tersebut dan terjadi dengan sangat cepat, sedangkan prosesor dari node SMP lain juga dapat diakses, tetapi dengan kecepatan lebih lambat dan melalui sistem pengalamatan yang lebih kompleks.

Sistem cluster Cluster adalah dua atau lebih komputer (node) yang terhubung menggunakan teknologi jaringan berdasarkan arsitektur bus atau switch dan merupakan sumber informasi dan komputasi tunggal bagi pengguna. Server, workstation, dan bahkan komputer pribadi biasa dapat dipilih sebagai node cluster. Sebuah node dicirikan oleh fakta bahwa ia menjalankan satu salinan sistem operasi. Manfaat kinerja clustering menjadi jelas ketika sebuah node gagal: node lain dalam cluster dapat mengambil alih beban node yang gagal tanpa pengguna menyadari adanya gangguan dalam akses. Kemampuan skalabilitas cluster memungkinkan Anda meningkatkan kinerja aplikasi secara signifikan lagi pengguna teknologi berdasarkan arsitektur bus atau switch. Sistem superkomputer semacam ini adalah yang termurah karena dirakit menggunakan komponen standar, prosesor, switch, disk, dan perangkat eksternal.

Sistem Cluster Tipe Cluster Kelas I. Kelas mesin yang dibangun seluruhnya dari komponen standar yang dijual oleh banyak pemasok komponen komputer ( harga rendah, perawatan mudah, komponen perangkat keras tersedia berbagai sumber). Kelas II. Sistem ini memiliki suku cadang yang eksklusif atau tidak tersedia secara luas. Dengan cara ini Anda dapat mencapai kinerja yang sangat baik, namun dengan biaya yang lebih tinggi. Cara prosesor terhubung satu sama lain menentukan kinerjanya lebih besar daripada jenis prosesor yang digunakannya. Parameter kritisnya adalah jarak antar prosesor (menentukan kinerja sistem tersebut). Oleh karena itu, terkadang lebih masuk akal untuk membuat sistem dari sejumlah besar komputer murah daripada dari sejumlah kecil komputer mahal. Cluster menggunakan sistem operasi standar untuk workstation (misalnya, Linux yang didistribusikan secara bebas, FreeBSD), bersama dengan dengan cara khusus dukungan untuk pemrograman paralel dan penyeimbangan beban. Untuk menghubungkan komputer menjadi sebuah cluster, paling banyak digunakan waktu yang diberikan Teknologi Fast Ethernet digunakan (kemudahan penggunaan dan biaya peralatan komunikasi yang rendah).

Hukum Amdahl dan Konsekuensinya Peningkatan jumlah prosesor tidak menyebabkan peningkatan kinerja secara proporsional. Alasan 1. Kurangnya paralelisme maksimum dalam algoritma dan/atau beban prosesor yang tidak seimbang. 2. Pertukaran, konflik memori dan waktu sinkronisasi. Misalkan dalam program Anda, pecahan operasi yang perlu dilakukan secara berurutan adalah f, di mana 0

Arsitektur neurokomputasi Untuk meningkatkan kinerja komputer, perlu beralih dari prinsip von Neumann untuk pemrosesan informasi paralel. Namun, komputer paralel belum tersebar luas karena beberapa alasan. Salah satu pilihan untuk mengimplementasikan kelas arsitektur sistem komputer adalah neurokomputer. Neurokomputer adalah sistem komputasi dengan arsitektur MIMD, yang merupakan kumpulan elemen pemrosesan serupa (neuron) yang sangat sederhana yang disatukan oleh banyak koneksi. Keuntungan utama neurokomputer dikaitkan dengan paralelisme pemrosesan yang masif, yang menentukan kinerja tinggi saat persyaratan rendah dengan parameter node dasar. Sistem saraf yang stabil dan andal dapat dibuat dari elemen dengan keandalan rendah penyebaran besar parameter Setiap neurokomputer dalam strukturnya mewakili jaringan saraf (neural network). Jaringan saraf adalah jaringan dengan jumlah lapisan terbatas yang terdiri dari elemen serupa - analog dari neuron dengan jenis koneksi berbeda antar lapisan. Elemen pembangun dasar jaringan saraf (NN) adalah neuron, yang melakukan penjumlahan tertimbang dari sinyal yang diterima pada masukannya. Hasil penjumlahan ini membentuk sinyal keluaran perantara, yang diubah oleh fungsi aktivasi menjadi sinyal keluaran neuron.

Masalah yang harus dipecahkan Masalah yang berhasil diselesaikan oleh NS pada tahap perkembangannya: pembentukan model dan berbagai sistem nonlinier dan sulit dijelaskan secara matematis, meramalkan perkembangan sistem ini dari waktu ke waktu: sistem kontrol dan regulasi prediktif; pengendalian robot dan perangkat kompleks lainnya; berbagai mesin negara terbatas: sistem antrian dan peralihan, sistem telekomunikasi; pengenalan gambar visual dan pendengaran; pencarian informasi asosiatif dan pembuatan model asosiatif; sintesis ucapan; pembentukan bahasa alami; pengambilan keputusan dan diagnostik di bidang di mana tidak ada model matematika yang jelas: di bidang kedokteran, forensik, keuangan;

Struktur dan sifat neuron buatan Neuron terdiri dari tiga jenis elemen: pengganda (sinapsis), penambah, dan konverter nonlinier. Sinapsis berkomunikasi antar neuron dan mengalikan sinyal input dengan angka yang mencirikan kekuatan koneksi (bobot sinapsis). Penambah melakukan penambahan sinyal yang datang melalui koneksi sinaptik dari neuron lain dan sinyal masukan eksternal. Konverter nonlinier mengimplementasikan fungsi nonlinier dari satu argumen - keluaran penambah. Fungsi ini disebut fungsi aktivasi atau fungsi transfer neuron.

Struktur dan sifat neuron buatan Neuron mengimplementasikan fungsi skalar argumen vektor Model matematis sebuah neuron: y = f(s) dengan w i, adalah bobot sinapsis, i = 1...n; b - nilai offset; s - hasil penjumlahan; x i - komponen vektor masukan (sinyal masukan), i = 1...n; y adalah sinyal keluaran neuron; n adalah jumlah masukan neuron; f - transformasi nonlinier (fungsi aktivasi). Secara umum, sinyal masukan, bobot dan offset dapat mengambil nilai nyata. Output (y) ditentukan oleh jenis fungsi aktivasi dan dapat berupa real atau integer. Koneksi sinaptik dengan bobot positif disebut rangsang, dan koneksi dengan bobot negatif disebut penghambatan. Elemen komputasi yang dijelaskan dapat dianggap sebagai model matematika neuron biologis yang disederhanakan

Struktur dan sifat neuron buatan Konverter nonlinier merespons sinyal masukan dengan sinyal keluaran f(s), yang merupakan keluaran neuron. Salah satu yang paling umum adalah fungsi aktivasi nonlinier dengan saturasi (fungsi logistik atau sigmoid (fungsi berbentuk S): f (s) = 1 / (1+e -as) Semakin menurun, sigmoid menjadi lebih datar, dalam batas pada a = 0 merosot menjadi garis horizontal pada level 0,5, seiring bertambahnya, sigmoid mendekati bentuk fungsi lompat satuan dengan ambang batas 0. Dari ekspresi sigmoid terlihat jelas bahwa nilai keluaran neuron terletak pada kisaran (0, 1) - ekspresi sederhana untuk turunannya. sinyal lemah lebih baik daripada sinyal besar dan mencegah saturasi dari sinyal besar karena sesuai dengan wilayah argumen di mana sigmoid memiliki kemiringan yang dangkal.

Sintesis jaringan saraf Tergantung pada fungsi yang dilakukan oleh neuron dalam jaringan, tiga jenis neuron dapat dibedakan: neuron masukan, yang mana vektor yang mengkode efek masukan atau gambar lingkungan eksternal disuplai; mereka biasanya tidak melakukan prosedur komputasi, dan informasi ditransfer dari input ke output dengan mengubah aktivasinya; neuron keluaran, yang nilai keluarannya mewakili keluaran jaringan saraf; transformasi di dalamnya dilakukan sesuai dengan ekspresi (1.1) dan (1.2); neuron perantara yang membentuk dasar jaringan saraf, transformasi yang juga dilakukan sesuai dengan ekspresi (1.1) dan (1.2). Di sebagian besar model saraf, jenis neuron terkait dengan lokasinya di jaringan. Jika suatu neuron hanya memiliki koneksi keluaran, maka ia merupakan neuron masukan; jika sebaliknya, ia merupakan neuron keluaran. Selama pengoperasian jaringan, vektor masukan diubah menjadi vektor keluaran, dan beberapa pemrosesan informasi dilakukan. Terkenal jaringan saraf dapat dibedakan menurut jenis struktur neuronnya menjadi homogen (homogen) dan heterogen. Jaringan homogen terdiri dari neuron-neuron berjenis sama dengan fungsi aktivasi tunggal, sedangkan jaringan heterogen terdiri dari neuron-neuron dengan fungsi aktivasi berbeda.

Memilih jumlah neuron dan lapisan Jumlah neuron dan lapisan berkaitan dengan: 1) kompleksitas tugas; 2) dengan jumlah data pelatihan; 3) dengan jumlah input dan output jaringan yang dibutuhkan; 4) dengan sumber daya yang tersedia: memori dan kecepatan mesin tempat jaringan disimulasikan; Jika jumlah neuron atau lapisan dalam jaringan terlalu sedikit: 1) jaringan tidak akan belajar dan kesalahan dalam operasi jaringan akan tetap besar; 2) fluktuasi tajam dari fungsi perkiraan y(x) tidak akan ditransmisikan pada output jaringan. Jika terdapat terlalu banyak neuron atau lapisan: 1) kinerja akan rendah, dan banyak memori yang dibutuhkan pada komputer von Neumann; 2) jaringan akan dilatih ulang: vektor keluaran akan menyampaikan detail kecil dan tidak signifikan dalam ketergantungan yang dipelajari y(x), misalnya, noise atau data yang salah; 3) ketergantungan keluaran terhadap masukan akan sangat nonlinier: vektor keluaran akan berubah secara signifikan dan tidak terduga dengan sedikit perubahan pada vektor masukan x; 4) jaringan tidak akan mampu melakukan generalisasi: di area di mana tidak ada atau sedikit titik yang diketahui dari fungsi y(x), vektor keluaran akan acak dan tidak dapat diprediksi, dan tidak akan memadai untuk memecahkan masalah

Persiapan data input dan output Data yang dipasok ke input jaringan dan diambil dari output harus disiapkan dengan benar. Salah satu metode yang umum adalah penskalaan: x = (x – m) c di mana x adalah vektor asal, x adalah vektor berskala. Vektor m adalah nilai rata-rata dari kumpulan data masukan, c adalah faktor skala. Penskalaan diinginkan untuk membawa data dalam kisaran yang dapat diterima. Jika hal ini tidak dilakukan, maka beberapa masalah mungkin terjadi: 1) neuron pada lapisan masukan akan berada dalam saturasi konstan (|m| besar, varians data masukan kecil) atau akan terhambat sepanjang waktu (|m| kecil, variansnya kecil); 2) koefisien pembobotan akan mengambil nilai yang sangat besar atau sangat kecil selama pelatihan (tergantung variansnya), dan akibatnya, proses pembelajaran akan diperpanjang dan akurasinya akan menurun

Pelatihan jaringan Proses fungsi NN bergantung pada besarnya koneksi sinaptik, oleh karena itu, setelah memberikan struktur NN tertentu yang memenuhi tugas apa pun, pengembang jaringan harus menemukan nilai optimal semua bobot variabel (beberapa koneksi sinaptik mungkin konstan). Tahapan ini disebut pelatihan NN. Kemampuan jaringan untuk memecahkan masalah yang timbul selama operasi bergantung pada seberapa baik kinerjanya. Pada tahap latihan, selain parameter kualitas pemilihan beban, waktu latihan juga memegang peranan penting. Biasanya, kedua parameter ini berbanding terbalik dan harus dipilih berdasarkan kompromi. Pelatihan NN dapat dilaksanakan dengan atau tanpa guru. Dalam kasus pertama, jaringan disajikan dengan nilai sinyal masukan dan keluaran yang diinginkan, dan menurut beberapa algoritma internal, jaringan menyesuaikan bobot koneksi sinaptiknya. Dalam kasus kedua, keluaran NN dihasilkan secara independen, dan bobot diubah sesuai dengan algoritma yang hanya memperhitungkan sinyal masukan dan turunannya.

Pelatihan jaringan Algoritma pembelajaran dibagi menjadi dua kelas besar: deterministik dan stokastik. Yang pertama, penyesuaian timbangan merupakan rangkaian tindakan yang kaku; yang kedua, dilakukan atas dasar tindakan yang mematuhi tindakan tertentu proses acak. Mari kita pertimbangkan algoritma pembelajaran yang diawasi. 1. Inisialisasi elemen matriks bobot (biasanya dengan nilai acak kecil). 2. Masukkan masukan ke salah satu vektor masukan yang harus dipelajari jaringan untuk membedakannya, dan hitung keluarannya. 3. Jika keluarannya benar, lanjutkan ke langkah 4. Jika tidak, hitung selisih antara nilai ideal dan nilai keluaran yang diperoleh: Ubah bobot sesuai dengan rumus yang ditentukan 4. Ulangi dari langkah 2 hingga jaringan berhenti membuat kesalahan. Pada langkah kedua, pada iterasi yang berbeda, semua kemungkinan vektor masukan disajikan secara bergantian dalam urutan acak. Sayangnya, tidak mungkin untuk menentukan terlebih dahulu jumlah iterasi yang perlu diselesaikan, dan dalam beberapa kasus, untuk menjamin keberhasilan sepenuhnya.

Multiprosesor

Kompleks komputasi multiprosesor (MPCC) adalah kompleks dari beberapa prosesor (atau PE) yang berinteraksi satu sama lain melalui satu sumber daya di bawah kendali satu sistem operasi yang mengatur seluruh proses pemrosesan dalam satu kompleks.

Tugas manajemen yang diselesaikan oleh satu sistem operasi di MPVC:

1. Semua tugas yang muncul saat mengimplementasikan mode multiprogram.

2. Distribusi sumber daya dan tugas antar prosesor.

3. Sinkronisasi prosesor ketika beberapa prosesor memecahkan satu masalah.

4. Penyelesaian situasi konflik ketika beberapa prosesor mengakses satu sumber daya (RAM, PU, ​​​​saluran, dll.).

5. Memastikan pengoperasian sistem komputasi jika terjadi kegagalan pada unit MPVS.

6. Merencanakan proses komputasi dengan mempertimbangkan optimalisasi beban seluruh prosesor.

Pengendalian proses komputasi dalam MPVC harus diatur secara sinkron atau asinkron.

Cara yang tidak sinkron memungkinkan Anda untuk memulai proses berikutnya segera setelah akhir proses sebelumnya. Proses baru hanya dapat diluncurkan jika semua data sudah siap. Bentuk pemicuan yang sepenuhnya asinkron berhubungan dengan kontrol, yang biasa disebut kontrol aliran data.

Sistem komputasi multiprosesor (MPCS) adalah kelas alat pemrosesan informasi paralel yang dicirikan oleh tiga fitur:

‣‣‣ arsitektur MIMD;

‣‣‣ banyak prosesor;

‣‣‣ satu sumber daya publik (biasanya RAM bersama).

Analisis komputer multiprosesor dan tren perkembangannya memungkinkan kita untuk mempertimbangkan struktur multiprosesor yang disajikan pada Gambar 1 sebagai kanonik. 5.4.

Sistem komputasi multiprosesor adalah komposisi yang di dalamnya terdapat subset prosesor dasar (EP), subset modul memori (MP), dan sakelar yang menyediakan interaksi antara elemen apa pun dari subset yang berbeda. Subset modul memori MP 1 - MP m pada dasarnya adalah memori umum untuk semua prosesor EP 1 - EP n, biasanya n≤m. Interaksi antar perangkat elektronik dilakukan bukan melalui saklar, melainkan melalui memori bersama. Semua EP biasanya identik.

Pada MPVS pertama (60an dan 70an abad kedua puluh), jumlah n mencapai sepuluh. Komputer multiprosesor modern adalah sistem dengan jumlah komponen elektronik dari 10 hingga 10 5 .

Pada pandangan pertama, tampaknya pembuatan MPVC (atau MPVC) menyelesaikan semua masalah dalam memastikan produktivitas yang tinggi. Memang, yang lebih mudah - pasang CPU dalam jumlah besar, atur OP secukupnya volume besar dan dengan karakteristik yang baik kinerja, satu set peralatan periferal dan mendapatkan efek yang sesuai. Pada saat yang sama, ada setidaknya dua masalah yang menyulitkan pemecahan masalah peningkatan produktivitas dengan cara ini.

Masalah pertama adalah pengorganisasian hubungan antar elemen kompleks (Gbr. 5.5).

Ada tiga jenis bangunan struktural MPVC: dengan bus umum atau berbagi waktu; terhubung silang; dengan RAM multi-input. MPVC dengan struktur seperti itu dianggap klasik.

Diagram blok MPVC dengan bus umum atau bus yang dipisahkan waktu (Gbr. 5.6, a). Semua perangkat disatukan oleh sekumpulan kabel umum (common bus), yang melaluinya data, alamat, perintah, dan sinyal kontrol dikirimkan.

Struktur MPVC dengan cross-switching (Gbr. 5.6, b). Di sini, saklar terpusat khusus digunakan yang menghubungkan semua komponen kompleks. Dalam hal ini, saklar dibuat sedemikian rupa sehingga informasi dapat ditransfer secara bersamaan antara beberapa pasang perangkat.

Struktur MPVC menggunakan memori multi-input (Gbr. 5.6, c). Di sini, peralihan dilakukan dalam modul OP, yang masing-masing memiliki jumlah input dan output yang sama dengan jumlah komponen kompleks lainnya. Namun setiap komponen memiliki koneksi langsung dengan modul OP. Struktur MPVC tersebut mirip dengan struktur saklar, hanya saja saklar tersebut tidak dibuat dalam bentuk satu perangkat tersendiri, tetapi didistribusikan ke seluruh modul memori. Solusi ini menyederhanakan implementasi karena berbagai alasan. Sebagian besar kompleks industri dibangun menurut skema ini, khususnya kompleks Elbrus dan kompleks berbasis komputer ES dibangun menurut skema ini.

Efisiensi MPCS (MPCS) sangat bergantung pada pengorganisasian proses komputasi, yang memerlukan biaya yang signifikan, ᴛ.ᴇ. tentang metode distribusi dan penggunaan perangkat keras, perangkat lunak dan sumber informasi. Ada tiga cara dasar untuk mengatur proses komputasi di komputer multiprosesor: master-slave; dengan pelaksanaan tugas yang terpisah; pemrosesan simetris.

· Organisasi paling sederhana dari proses komputasi didasarkan pada prinsip “master-slave”, ketika salah satu prosesor ditugaskan fungsi untuk mengelola semua prosesor lainnya. Prosesor utama mendistribusikan tugas dan sumber daya yang diperlukan untuk menyelesaikannya, sehingga menghilangkan pertikaian sumber daya dan mengurangi frekuensi situasi yang tidak direncanakan. Pada saat yang sama, prosesor host itu sendiri praktis dikecualikan dari penyelesaian masalah terapan dan menjadi penghambat dalam hal keandalan.

· Organisasi dengan pelaksanaan tugas yang terpisah. Semua prosesor memiliki kedudukan yang sama - mereka menjalankan semua fungsi yang berkaitan dengan pemrosesan informasi. Selain itu, hal ini dicapai melalui distribusi sumber daya yang statis bersamaan dengan pembagian tugas; ketika menjalankan proses aplikasi, mereka tidak dapat didistribusikan kembali, yang menyebabkan pemuatan prosesor, saluran, modul memori yang tidak merata dan, akibatnya, penurunan efisiensi kompleks. (+1) keandalan lebih tinggi; 2) semua PE homogen fungsinya"

· Dengan pemrosesan simetris, daftar tugas ditetapkan (yang dapat terus ditingkatkan) dan setiap prosesor, ketika dibebaskan dari tugas sebelumnya, memilih yang baru dari daftar umum, memperoleh sumber daya yang diperlukan (area OP, memori eksternal, saluran, PU). Secara potensial, organisasi semacam itu dapat menyediakannya beban tertinggi prosesor, tetapi menyebabkan banyak konflik di antara mereka karena sumber daya dan memperumit masalah sinkronisasi proses.

Komputer, kompleks, sistem dan jaringan

Seperangkat alat teknis dan perangkat lunak yang ditujukan untuk layanan informasi bagi manusia dan objek teknis disebut istilah umum sistem pengolahan data. Istilah umum lainnya adalah sistem informasi.

Jika sistem informasi digunakan untuk manajemen dalam sistem teknis, sering disebut sistem manajemen informasi. Ini yang paling banyak nama umum untuk sistem tujuan ini.

VM merupakan salah satu kelas sistem informasi. Selain kelas VM, ini termasuk VC, VS, dan jaringan. Mari kita perhatikan ciri-ciri pembeda utama dari kelas-kelas sistem informasi ini.

VM dirancang untuk memecahkan berbagai masalah oleh pengguna yang bekerja di berbagai bidang studi (memecahkan masalah matematika, pengolah kata, akuntansi, permainan, dll.). Blok utama VM yang mengubah informasi dan mengontrol proses komputasi berdasarkan program adalah prosesor. (Kata "prosesor" berasal dari kata "proses") Prosesor memulai dan mengelola proses eksekusi program.

Komputasi yang rumit– ini adalah beberapa VM (atau sistem komputasi) yang saling berhubungan secara informasi (biasanya melalui saluran serial). Selain itu, setiap VM secara mandiri mengelola proses komputasinya sendiri, dan proses komputasi yang intensif (dibandingkan dengan interaksi informasi prosesor dalam sistem multiprosesor). Khususnya aplikasi yang luas VC diperoleh dalam sistem manajemen informasi. Objek kendali dalam sistem teknis seringkali memiliki luas spasial yang signifikan dan berisi sejumlah besar unit, instalasi teknologi, dll. Seiring berkembangnya alat dan teknologi jaringan komputer Sistem informasi dan manajemen menggunakan telekomunikasi modern, dan sistem informasi dan manajemen diimplementasikan dalam bentuk jaringan komputer lokal, dan bukan VC.

Sistem komputer mereka menyebut sistem informasi yang dikonfigurasi untuk memecahkan masalah di area aplikasi tertentu, mis. ia memiliki spesialisasi perangkat keras dan perangkat lunak untuk meningkatkan kinerja dan mengurangi biaya. Seringkali, komputer berisi beberapa prosesor, di antaranya terjadi pertukaran informasi intensif selama operasi, dan yang memiliki kontrol terpadu atas proses komputasi. Sistem seperti ini disebut multiprosesor. Jenis pesawat umum lainnya adalah sistem mikroprosesor. Mereka dibangun menggunakan mikroprosesor (MP), mikrokontroler, atau prosesor sinyal digital khusus. Biasanya, sistem seperti itu dikhususkan untuk tugas-tugas kontrol lokal dan pengendalian peralatan teknologi di bidang teknis dan sistem rumah tangga. Pesawat yang sesuai sering dipanggil pesawat bawaan.

Ciri khas jaringan sebagai kelas sistem informasi adalah fungsi interaksi informasi yang dikembangkan.

Sarana transmisi dan pemrosesan informasi di jaringan difokuskan pada penggunaan kolektif sumber daya di seluruh jaringan - perangkat keras, informasi, dan perangkat lunak. Sistem pelanggan adalah seperangkat VM, perangkat lunak, peralatan periferal, dan sarana komunikasi dengan subsistem telekomunikasi (subnetwork komunikasi). Subsistem komunikasi– seperangkat media transmisi informasi fisik, perangkat keras dan perangkat lunak yang menyediakan interaksi informasi sistem pelanggan.

Pasangan terpilin, kabel, serat optik, dan gelombang elektromagnetik digunakan sebagai media fisik untuk mengirimkan informasi.

Peralatan sistem informasi, termasuk perangkatnya teknologi komputer dan telekomunikasi disebut perangkat keras(perangkat keras).