Reporter: Hasbi Maulana | Editor: Hasbi Maulana

KONTAN.CO.ID - Prompt dalam konteks ChatGPT mengacu pada teks atau pertanyaan yang Anda masukkan untuk memulai percakapan dengan model bahasa.

Ketika Anda berbicara dengan ChatGPT, Anda memberikan "prompt" sebagai input awal, dan model akan merespons berdasarkan prompt tersebut.

Misalnya, ketika Anda menanyakan kepada ChatGPT sesuatu seperti, "Bagaimana cara memasak nasi goreng?"

Maka, kalimat di atas adalah "prompt" Anda, dan ChatGPT akan merespons dengan informasi tentang cara memasak nasi goreng.

Anda dapat memberikan prompt yang lebih panjang atau lebih pendek, tergantung pada kompleksitas pertanyaan atau jenis informasi yang Anda cari.

Model akan berusaha memberikan jawaban sesuai dengan informasi yang telah ia pelajari selama pelatihan, meskipun pengetahuannya memiliki batasan sampai tanggal pemotongan pengetahuan (knowledge cutoff) pada September 2021.

Menyusun prompt Chat GPT yang Baik

Menyusun prompt yang baik sangat penting untuk mendapatkan jawaban yang relevan dan memuaskan dari ChatGPT.

Nah, berikut adalah beberapa tips dan contoh untuk menyusun prompt yang efektif.

Tetapkan Tujuan yang Jelas

• Jelaskan dengan terang apa yang ingin Anda ketahui atau pelajari dari ChatGPT.
• Tentukan konteks atau latar belakang yang relevan untuk pertanyaan Anda.
• Contoh: "Berikan penjelasan tentang teori relativitas Einstein dalam fisika."

Gunakan Bahasa yang Spesifik dan Tegas

• Gunakan bahasa yang tegas dan langsung agar ChatGPT mengerti apa yang Anda minta.
• Hindari pertanyaan ambigu atau terlalu umum yang dapat menyebabkan jawaban yang tidak relevan.
• Contoh: "Apa saja langkah-langkah praktis untuk meningkatkan produktivitas dalam pekerjaan kantor?"

Sertakan Kata Kunci atau Topik yang Relevan

• Masukkan kata kunci atau topik yang relevan agar ChatGPT dapat lebih fokus pada jawaban yang sesuai.
• Jangan ragu menyebutkan nama orang, tempat, atau konsep khusus yang ingin Anda ketahui lebih banyak tentangnya.
• Contoh: "Berikan ringkasan tentang teori evolusi Darwin dan contoh-contoh pendukungnya."

Gunakan Pertanyaan Terbuka

• Gunakan pertanyaan terbuka untuk memberikan kesempatan pada ChatGPT untuk memberikan jawaban yang lebih mendalam dan terperinci.
• Hindari pertanyaan ya/tidak yang hanya menghasilkan jawaban singkat.
• Contoh: "Bagaimana peran teknologi dalam mempengaruhi dunia modern dan kehidupan sehari-hari kita?"

Batasi Pertanyaan dengan Jelas

• Jika pertanyaan Anda terlalu panjang atau kompleks, cobalah untuk merinci pertanyaan menjadi bagian-bagian yang lebih terfokus.
• Hindari pertanyaan yang mencakup banyak topik sekaligus.
• Contoh: "Tolong jelaskan sejarah perkembangan dan pengaruh budaya populer dari tahun 1950-an hingga 2000-an di Amerika Serikat."

Sertakan Konteks untuk Informasi yang Anda Cari

• Jika Anda mencari informasi tentang masalah pribadi atau teknis, sertakan konteks yang relevan agar ChatGPT dapat memberikan jawaban yang lebih tepat.
• Contoh: "Bagaimana cara menyesuaikan pengaturan privasi pada akun media sosial saya agar hanya teman yang dapat melihat postingan saya?"

Dengan mengikuti tips-tips ini, Anda dapat menyusun prompt yang baik dan efektif untuk interaksi dengan ChatGPT, yang akan membantu Anda mendapatkan jawaban yang lebih relevan dan informatif.

KOMPAS.com - Teknologi chatbot berbasis kecerdasan buatan (artificial intelligence/AI) sedang naik daun, dan banyak digunakan di seluruh dunia. Salah satu yang paling populer adalah ChatGPT bikinan OpenAI.

Ketika berinteraksi, pengguna ternyata paling sering minta bantuan chatbot AI untuk penulisan kreatif. Misalnya, fiksi penggemar, naskah film, lelucon, puisi, atau untuk permainan peran.

Hal ini terungkap dari studi terbaru outlet The Washington Post yang mengamati hampir 200.000 percakapan pengguna chatbot dengan alamat IP Amerika Serikat (AS), dari kumpulan data milik bot WildChat.

WildChat Dataset adalah kumpulan data bikinan Allen Institute for AI, yang berisi 1 juta interaksi pengguna (anonim/tanpa buat akun) dengan chatbot berbasis model bahasa besar GPT-3.4 Turbo dan GPT-4.

Saat ini, dataset tersebut mencakup interaksi dari 9 April 2023 hingga 30 April 2024.

Dari 200.000 percakapan yang diamati, seperlimanya (21 persen) merupakan perintah/permintaan untuk membantu penulisan kreatif seperti fiksi penggemar, naskah film, lelucon atau puisi, atau untuk permainan peran.

Selain itu, The Post menemukan orang menggunakan chatbot untuk membantu memberi nama bisnis, membuat karakter buku, dan menulis dialog.

Studi juga menunjukkan, lebih dari 1 dari 6 percakapan chatbot AI dari pengguna di AS berasal dari murid/siswa yang mencari bantuan untuk mengerjakan pekerjaan rumah (PR).

Beberapa menggunakan chatbot untuk mendapatkan pemahaman yang lebih baik tenang suatu bidang subjek, bukan hanya mencari jawaban yang benar saja untuk PR mereka.

Yang lain hanya menyalin-menempel alias copy-paste pertanyaan pilihan ganda dan meminta jawaban yang benar.

Selanjutnya, warga AS juga menggunakan chatbot AI untuk meminta saran, khususnya seputar pribadi. Misalnya, saran untuk merayu seseorang atau apa yang harus dilakukan ketika pasangan teman selingkuh.

Menurut amatan The Post, pengguna merasa nyaman untuk memasukkan banyak informasi pribadi ketika berinteraksi dengan chatbot. Misalnya, dari 5.000 percakapan ditemukan nama lengkap pengguna, nama pemberi kerja, dan informasi pribadi lainnya.

Kemudian, sebagian besar percakapan WildChat melibatkan pengkodean komputer. Sekitar 7 persen percakapan meminta bantuan untuk menulis, men-debug, atau memahami kode komputer.

Ada tambahan 1 persen dari pengguna yang meminta bantuan mengerjakan PR, tetapi melibatkan pertanyaan tentang tugas pengodean.

Sekitar 15 persen percakapan lain berkaitan dengan pekerjaan. Misalnya, chatbot diminta untuk menulis presentasi, mengotomatiskan tugas e-commerce, atau menyusun e-mail. Pengguna juga meminta bantuan chatbot untuk membuat gambar.

Meski bot WildChat tidak dapat digunakan untuk membuat gambar, namun sekitar 6 persen pengguna meminta bantuan untuk membuat perintah bagi Midjourney, generator gambar AI.

Kata benda yang paling sering diminta pengguna untuk digambarkan adalah "perempuan".

Secara umum, berikut 10 hal yang paling sering ditanyakan ke chatbot AI, menurut studi The Washington Post, Senin (12/8/2024):

• Penulisan kreatif dan permainan peran - 21 persen
• Bantuan PR - 18 persen
• Pencarian dan kueri lain - 17 persen
• Pekerjaan/bisnis - 15 persen
• Koding - 7 persen
• Buat gambar - 6 persen
• Kesehatan dan saran - 5 persen
• Jailbreaks - 4 persen
• Salam - 3 persen
• Bantuan Terjemahan dan Inggris - 2 persen
• Mencari pekerjaan - 2 persen

KOMPAS.com - ChatbotAI populer seperti ChatGPT dan Microsoft Copilot ditopang oleh model bahasa besar (large language model/LLM) bernama "GPT-4".

GPT-4 ini lebih cerdas dan canggih dibandingkan GPT-3.5 karena sudah memiliki 1,7 triliun parameter pembelajaran mesin, input multimodal (teks, gambar), pemahaman bahasa lebih baik, respons lebih ekspresif.

Di balik kecanggihannya, GPT-4 ini ternyata membutuhkan konsumsi listrik yang besar. Menurut laporan Towards Data Science, untuk melatih (training) model AI GPT-4 selama 90-100 hari, dibutuhkan listrik hingga sekitar 62.000 MWh. Ini setara dengan konsumsi energi dari 1.000 rumah tangga AS pada umumnya selama 5 hingga 6 tahun.

Pada bulan Januari, konsumsi listri per bulan ChatGPT dilaporkan kira-kira sebanyak 26.000 rumah tangga AS untuk inferensi (proses input dan output).

Rincian konsumsi listri GPT-4

Kecanggihan GPT-4 dimungkinkan karena model AI ini dilatih menggunakan sekitar 25.000 GPU Nvidia A100 selama 90-100 hari. Biayanya training model ini dilaporkan mencapai 100 juta dollar AS.

Mari kita lihat rincian hitung-hitungan estimasi konsumsi listrik yang dibutuhan untuk melatih GPT-4 berdasarkan laporan Towards Data Science.

Misal, kita asumsikan GPU dipasang di server Nvidia HGX yang masing-masing dapat menampung 8 GPU. Berarti, GPT-4 membutuhkan 25.000/8 = 3.125 server.

Salah satu cara untuk memperkirakan konsumsi listrik dari informasi ini adalah dengan mempertimbangkan daya desain termal (TDP) server Nvidia HGX.

TDP, yang dilambangkan dalam watt, menyatakan konsumsi daya perangkat keras di bawah beban teoritis maksimum. Konsumsi daya aktual mungkin berbeda.

Nvidia tidak mengungkapkan informasi ini, jadi mari kita gunakan TDP dari server Nvidia DGX yang serupa, yaitu 6,5 kW. Jadi, jika server Nvidia DGX berjalan dengan daya penuh selama 1 jam, server tersebut akan mengonsumsi 6,5 KWh, berdasarkan perhitungan TDP.

Seperti disebut sebelumnya, model AI GPT-4 disebut membutuhkan diperlukan waktu 90–100 hari untuk melatih GPT-4. Itu berarti 90 x 24 jam= 2.160 jam per server atau 100 x 24 jam = 2.400 jam per server.

Jika kita berasumsi server beroperasi dengan daya penuh secara konstan, kita dapat mengalikan jumlah jam dengan 6,5 KWh. Dari situ, kita memperoleh bahwa selama pelatihan, setiap server mungkin telah mengonsumsi listrik sebesar 14.040 KWh hingga 15.600 KWh.

Karena butuh 3.125 server, maka 3.125 x 14.040 KWh = 43.875.000 KWh atau 3.125 x 15.600 = 48.750.000 KWh.

Saat menghitung konsumsi energi perangkat keras komputer, biasanya konsumsi energi perangkat keras dikalikan dengan apa yang disebut efektivitas penggunaan daya (PUE) pusat data tempat perangkat keras tersebut beroperasi.

PUE adalah rasio yang menggambarkan seberapa efisien pusat data komputer menggunakan energi.

GPT-4 kemungkinan besar dilatih di pusat data Microsoft Azure, mengingat adanya kemitraan antara OpenAI dengan Microsoft. Pusat data Microsoft Azure memiliki PUE rata-rata 1,18. Perlu dicatat bahwa ini dapat bervariasi di antara pusat data.

Jadi, jika mengalikan konsumsi listrik perangkat keras sebesar 43.875.000 hingga 48.750.000 KWh dengan 1,18, maka didapatkan hasil 51.772.500 KWh dan 57.525.000 KWh.

Jadi, estimasi konsumsi listrik untuk melatih GPT-4 selama 90-100 hari adalah antara 51.772 MWh dan 57.525 MWh. Ini setara dengan konsumsi energi selama 5 hingga 6 tahun dari 1.000 rumah tangga AS pada umumnya.

Angka tersebut 40 kali lebih tinggi dari estimasi konsumsi listrik yang dikonsumsi pendahulunya, GPT-3, sebagaimana dihimpun KompasTekno dari Towards Data Center, Senin (5/8/2024).

Konsumsi listrik Microsoft naik 2x lipat

Konsumsi listrik tahunan Microsoft meningkat lebih dari dua kali lipat dari 11 TWh (2020) menjadi 24 TWh (2023) dalam empat tahun.

Konsumsi listrik Microsoft ini lebih besar dibandingkan konsumsi listrik negara Yordania. Dalam setahun, Yordania yang punya 11 juta penduduk disebut menggunakan listrik 20 TWh.

Lonjakan penggunaan listrik Microsoft ini disertai dengan peningkatan total emisi karbon sebesar 42 persen.

Lonjakan konsumsi lisrik dan emisi karbon ini diyakini merupakan akibat dari penggunaan server Microsoft Azure untuk melatih dan menjalankan model AI, ChatGPT milik OpenAI, misalnya.