Tutorial singkat tentang cara mengintegrasikan AI ke dalam sebuah aplikasi

Fitur AI yang dulu dianggap mengesankan, seperti fitur yang dapat merangkum dokumen panjang atau menjawab pertanyaan dalam bahasa sehari-hari, kini sudah menjadi hal yang diharapkan. Bagi sebagian besar tim, pertanyaannya bukan lagi apakah harus menambahkan AI ke aplikasi mereka, melainkan bagaimana melakukannya tanpa menimbulkan masalah baru.

Menambahkan AI ke aplikasi yang sudah ada tidak semudah menempelkan API key ke dalam kode front-end Anda. Jika dilakukan secara sembarangan, menambahkan fitur AI dapat menimbulkan masalah yang sulit diperbaiki di kemudian hari. Hal ini bisa menyebabkan masalah latensi, yang berarti respons AI membutuhkan beberapa detik dibandingkan dengan kecepatan instan yang biasa dinikmati pengguna. Terlebih lagi, sebagian besar penyedia mengenakan biaya untuk setiap permintaan, sehingga tagihan Anda meningkat seiring bertambahnya penggunaan. AI juga dapat berperilaku tidak terduga, sehingga aplikasi Anda memerlukan pengaman untuk menangani respons yang tidak terduga.

Jika Anda seorang pengembang, manajer produk, atau chief technology officer yang ingin mempelajari cara menambahkan AI ke aplikasi yang sudah ada, tutorial ini akan memandu Anda melalui langkah-langkahnya tanpa merusak infrastruktur Anda saat ini. Kami akan membahas seluruh siklus hidup fitur AI, mulai dari memilih fitur pertama yang ingin Anda sematkan AI hingga menerapkan output JSON yang terstruktur dan respons streaming. Pada akhirnya, Anda akan merasa yakin bahwa apa yang telah Anda bangun tidak akan rusak.

1. Mulai dengan kasus penggunaan yang spesifik

Kesalahan paling umum yang dilakukan tim saat mempelajari cara membangun agen AI yang sepenuhnya otonom adalah terlalu ambisius terlalu cepat. Anda sebaiknya memulai dengan satu alur kerja yang spesifik dan dapat diprediksi. Dengan begitu, Anda dapat mengujinya dan memahami apa yang terjadi jika ada yang tidak beres. Tugas ini bisa sesederhana merangkum catatan atau menandai tiket dukungan, memberikan tim produk Anda cara terkontrol untuk melihat bagaimana AI berperilaku sebelum diluncurkan sepenuhnya.

Berikut beberapa fitur yang dapat diuji, berdasarkan jenis aplikasi yang Anda kembangkan:

Masing-masing memiliki cakupan yang spesifik dan hasil yang dapat diverifikasi, sehingga menjadikannya titik awal yang aman.

2. Pilih pendekatan integrasi Anda

Setelah Anda memilih fitur untuk memulai, Anda perlu menentukan jalur teknis yang akan Anda ambil untuk menghubungkan model. Ada tiga pendekatan utama:

• API AI-as-a-Service: Anda mengirim permintaan ke model yang di-host dari penyedia seperti OpenAI, Anthropic, atau Google. Ini adalah cara tercepat untuk memulai karena tidak ada infrastruktur yang perlu dikelola, dan API AI untuk aplikasi seluler bekerja dengan cara yang sama seperti aplikasi web. Kompromi dari pendekatan ini adalah kontrol yang lebih sedikit dan biaya yang meningkat setiap permintaan.
• Model self-hosted: Anda menjalankan model terbuka di server Anda sendiri. Ini memberi Anda kontrol penuh dan dapat menurunkan biaya dalam skala besar, serta menjadi jalur untuk integrasi model AI kustom ketika privasi data atau fine-tuning menjadi penting. Sebagai gantinya, Anda harus menangani pekerjaan infrastruktur dan pemeliharaan yang nyata.
• Software development kit dan framework AI: Integrasi LangChain atau framework serupa menambahkan lapisan antara aplikasi Anda dan model yang menangani pola-pola umum, termasuk retrieval dan tool calling, sehingga Anda menulis lebih sedikit kode penghubung sendiri. Biayanya adalah satu lagi dependensi yang harus dipelajari dan diperbarui, serta lebih sedikit wawasan tentang apa yang dilakukan framework di antara aplikasi Anda dan model.

3. Bangun arsitektur backend yang aman

Ada satu aturan yang lebih penting dari yang lainnya saat Anda mempelajari cara mengintegrasikan AI ke dalam aplikasi: Jangan pernah membiarkan aplikasi Anda berkomunikasi langsung dengan penyedia AI.

Apa pun yang ada di dalam kode front-end Anda, baik itu aplikasi web di browser maupun aplikasi seluler di perangkat, dapat dibaca oleh orang yang menggunakannya. API key rahasia Anda akan berada di dalam kode tersebut, dan mudah untuk mengekstraknya dari lalu lintas jaringan atau bundel aplikasi. Begitu seseorang memiliki key Anda, mereka dapat menjalankan permintaan terhadap akun Anda hingga anggaran Anda habis. Ini adalah kesalahan paling umum dan paling mahal dalam arsitektur backend AI.

Sebagai gantinya, rutekan setiap permintaan melalui back end Anda sendiri agar Anda dapat menjaga keamanan API key Anda, mengontrol biaya, dan memvalidasi respons AI sebelum dilihat oleh pengguna. Berikut tampilan alur tersebut:

1. Tindakan pengguna: Seseorang mengeklik Rangkum di antarmuka aplikasi Anda.
2. Front end: Aplikasi Anda mengirim permintaan ke back end Anda sendiri, bukan ke penyedia AI.
3. Back end: Server Anda mengautentikasi pengguna, menerapkan batas kecepatan, dan melampirkan API key rahasia, yang hanya tersimpan di sini.
4. Penyedia AI: Model memproses permintaan dan mengembalikan respons.
5. Back end: Server Anda memvalidasi dan membersihkan respons tersebut, lalu memformatnya untuk aplikasi Anda.
6. Front end: Aplikasi Anda menampilkan hasil yang bersih dan telah diperiksa kepada pengguna.

Merutekan permintaan melalui server Anda sendiri menambah satu langkah, tetapi itulah yang membuat segala sesuatu yang lain menjadi mungkin. Karena setiap permintaan melewati server Anda, key tetap tersembunyi, pengguna dibatasi seberapa sering mereka dapat memanggil fitur tersebut, dan respons AI diperiksa sebelum aplikasi Anda menampilkannya kepada siapa pun.

4. Pilih pola koneksi data Anda

Langkah berikutnya untuk integrasi model AI kustom Anda adalah menentukan seberapa banyak data aplikasi Anda yang dapat dilihat dan digunakan oleh AI. Ada tiga pola standar yang berbeda dalam hal apa yang dapat mereka lakukan dan seberapa banyak pekerjaan yang diperlukan untuk menyiapkannya: 

• Prompt saja: Anda menyertakan semua yang dibutuhkan model secara langsung di dalam prompt. Jika pengguna meminta untuk merangkum catatan, Anda mengirim catatan tersebut beserta instruksinya. Ini adalah pola yang paling sederhana dan default yang tepat untuk tugas yang berdiri sendiri, tetapi hanya berfungsi jika data yang relevan cukup kecil untuk dimuat dalam prompt.
• RAG: Ketika AI perlu memberikan jawaban dari sejumlah besar informasi, seperti katalog produk, pusat bantuan, atau dokumen internal Anda, Anda tidak dapat memuat semuanya dalam setiap prompt. RAG mengatasi hal ini dengan mencari data Anda untuk menemukan bagian yang paling relevan dengan pertanyaan, lalu hanya meneruskan bagian tersebut ke dalam prompt. Inilah yang memungkinkan AI menjawab secara akurat dari konten Anda sendiri alih-alih menebak-nebak, dan ini adalah pendekatan standar untuk asisten dalam aplikasi yang berpengetahuan. Kompromi dari pendekatan ini adalah Anda biasanya memerlukan database vektor dan pipeline retrieval agar dapat berfungsi.
• Function atau tool calling: Model dapat memicu tindakan dalam aplikasi Anda (misalnya, memeriksa status pesanan, memesan slot, menarik data langsung) dengan mengembalikan permintaan terstruktur yang dijalankan oleh back end Anda. Ini adalah pola yang paling kuat dan yang harus Anda pilih ketika AI perlu melakukan sesuatu, bukan hanya mengatakan sesuatu.

5. Minta output yang terstruktur

“Prompting berdasarkan firasat semata,” atau mengandalkan model untuk menjawab dalam kalimat biasa, akan hancur begitu aplikasi Anda perlu membaca output sebagai data alih-alih teks. Jika Anda meminta model untuk mengategorikan tiket dukungan dan model menjawab, “Tentu saja! Kategorinya adalah Penagihan,” kode Anda harus mengekstrak “Penagihan” dari kalimat tersebut. Respons berikutnya mungkin diungkapkan dengan cara yang sama sekali berbeda, sehingga membuat ekstraksi tersebut tidak dapat diandalkan.

Solusinya adalah mewajibkan output terstruktur, menggunakan JSON Schema untuk membuat model mengembalikan objek yang ketat dan dapat dibaca mesin seperti {“category”: “billing”, “priority”: “high”} setiap saat. Back end Anda kemudian dapat mem-parsing-nya dengan cara yang sama pada setiap permintaan, tanpa menulis logika parsing teks yang rapuh atau berisiko mengalami crash saat kata-katanya berubah.

6. Tambahkan pengaman produksi sebelum merilis

Sebelum fitur ini diluncurkan, siapkan beberapa pengaman. Setiap pengaman mencegah masalah spesifik yang lebih sulit diperbaiki setelah fitur aktif dan digunakan orang.

Berikut adalah pemeriksaan keamanan wajib yang harus diterapkan sebelum mendorong fitur ke produksi:

• Batas ukuran input: Batasi seberapa banyak teks yang dapat dikirim pengguna dalam satu permintaan. Tanpa batas, satu input berukuran berlebihan dapat melonjakkan biaya Anda atau melebihi context window model dan gagal.
• Batas kecepatan: Batasi berapa banyak permintaan yang dapat dibuat satu pengguna dalam jendela waktu tertentu. Ini melindungi anggaran Anda dari loop yang tidak disengaja dan penyalahgunaan yang disengaja, serta mencegah satu pengguna berat menurunkan pengalaman bagi semua orang lainnya.
• Riwayat percakapan: Jika fitur Anda berupa obrolan, tentukan seberapa banyak konteks sebelumnya yang Anda kirim kembali pada setiap permintaan. Terlalu sedikit, dan AI kehilangan alur pembicaraan; terlalu banyak, dan setiap permintaan menjadi lebih lambat dan lebih mahal.
• Streaming (SSE): Untuk apa pun yang lebih panjang dari balasan singkat, streamkan respons token demi token menggunakan server-sent events alih-alih membuat pengguna menunggu keseluruhannya. Ini tidak membuat model lebih cepat, tetapi membuat fitur terasa responsif alih-alih membeku.

Cara memantau dan menskalakan fitur AI Anda

Setelah fitur aktif, Anda perlu visibilitas tentang bagaimana fitur tersebut berperilaku. Catat detail yang memberi tahu Anda di mana masalah dimulai, seperti panjang prompt, latensi respons, dan tingkat kesalahan, sehingga Anda dapat mendeteksi perlambatan atau lonjakan sebelum pengguna melaporkannya. 

Rencanakan juga untuk kegagalan. Penyedia AI mengalami gangguan, jadi rancang fallback untuk apa yang ditampilkan aplikasi Anda saat model tidak tersedia, alih-alih membiarkan pengguna menatap layar yang rusak. Setelah fitur pertama Anda stabil dan dipahami dengan baik, Anda dapat dengan aman mulai berekspansi ke alur kerja agen AI yang lebih kompleks.

Belum punya aplikasi? Lewati kode sepenuhnya

Jika Anda sudah sampai sejauh ini dan Node.js, rute backend, serta arsitektur API mulai terasa lebih rumit dari yang Anda perkirakan, berikut pertanyaan untuk Anda tanyakan pada diri sendiri: Apakah saya ingin membangun semua ini sendiri dari awal?

Banyak aplikasi yang memanfaatkan AI bukanlah produk yang kompleks. Jika Anda hanya membutuhkan portal perusahaan internal, alat pendaftaran klien, atau direktori pintar yang dapat dicari oleh tim Anda, menyewa pengembang untuk membangunnya dapat menghabiskan banyak uang dan waktu, padahal Anda bisa menyiapkannya sendiri dalam satu sore.

Jika Anda ingin membuat aplikasi tanpa coding, Jotform App Builder memungkinkan Anda mendeskripsikan aplikasi yang Anda inginkan dalam bahasa sederhana dan menghasilkan versi yang berfungsi dengan fitur AI yang dapat Anda sesuaikan dan bagikan, yang sudah terpasang di dalamnya. Tidak ada back end yang harus diamankan, tidak ada API key yang harus disembunyikan, dan tidak ada pipeline yang harus dipelihara karena semuanya ditangani untuk Anda.

Berikut seberapa cepat semuanya tersusun:

1. Buka Jotform App Builder dan deskripsikan aplikasi Anda. Beri tahu apa yang Anda butuhkan dalam satu atau dua kalimat, seperti “portal permintaan IT internal dengan asisten pintar yang menjawab pertanyaan umum.”

2. Tinjau aplikasi yang dihasilkan. Dalam waktu sekitar satu menit, Anda akan memiliki aplikasi yang berfungsi dengan halaman, formulir, dan navigasi yang sudah tersedia.

3. Sesuaikan aplikasi dengan menyesuaikan tata letak, menambahkan branding Anda, dan mengedit konten dengan memberi prompt pada AI atau mengedit secara langsung.

4. Publikasikan aplikasi dan bagikan dengan tautan atau kode QR, siap digunakan di perangkat apa pun.

Jika tujuan Anda adalah aplikasi yang berfungsi dengan fitur AI, bukan proyek rekayasa yang berlangsung berbulan-bulan, pendekatan ini mencapai integrasi tersebut dengan hambatan minimal. Anda selalu dapat beralih ke build kustom nanti, setelah Anda tahu persis apa yang Anda butuhkan.

Rute mana pun yang Anda ambil, prinsip yang sama berlaku: Mulailah dengan fitur pertama yang kecil dan terfokus yang lebih mudah diuji daripada fitur yang terbuka. Simpan API key Anda di server Anda sendiri untuk melindungi anggaran dan pengguna Anda. Dan gunakan output terstruktur untuk mencegah aplikasi Anda rusak karena kalimat yang tidak dapat dibacanya. Batas dan pencatatan log yang Anda tambahkan sebelum rilis adalah yang memungkinkan Anda mengidentifikasi masalah sebelum ada yang melaporkannya. Menangani hal-hal tersebut sejak awal jauh lebih murah daripada memasangnya kembali setelah pengguna bergantung pada fitur tersebut.

Dan jika Anda menggunakan Jotform App Builder, Anda akan memiliki aplikasi yang berfungsi dengan fitur AI yang siap digunakan dalam beberapa menit.