Agen kecerdasan buatan yang bekerja di perusahaan tidak cukup hanya mampu memahami permintaan karyawan. Sebelum menjalankan tugas, agen itu harus mengikuti kebijakan dan proses bisnis yang berlaku. Prinsip tersebut menjadi pokok pendekatan Salesforce dalam mengembangkan AI untuk kebutuhan organisasi.
Model AI modern dapat memahami bahasa sehari-hari dan menghasilkan rekomendasi, tetapi jawabannya bersifat probabilistik. Artinya, model memberi keluaran berdasarkan kemungkinan, bukan otomatis mengetahui batas yang ditetapkan perusahaan. Dalam contoh yang dibahas Salesforce, AI mungkin mengusulkan diskon 18 persen untuk strategi penjualan, padahal aturan perusahaan membatasi potongan harga sampai 15 persen. Saran itu karena itu tidak boleh langsung dijalankan.
Teknogav melaporkan, Salesforce memisahkan peran AI yang menafsirkan konteks dari sistem perusahaan yang menjalankan ketentuan pasti. AI dapat membantu mengusulkan tindakan. Aplikasi, alur kerja, serta kebijakan organisasi menjadi pengendali yang menentukan apakah tindakan tersebut boleh dilakukan.
Empat lapisan untuk menghubungkan AI dan proses bisnis
Kerangka yang disiapkan Salesforce terdiri atas empat lapisan. Data 360 menggabungkan dan menyelaraskan data perusahaan. Customer 360 menyediakan aplikasi, logika bisnis, alur kerja, serta pengaturan akses. Agentforce digunakan untuk membangun dan mengelola agen AI, sementara AIforce menjadi antarmuka percakapan bagi pengguna.
Susunan itu memungkinkan karyawan menyampaikan kebutuhan dengan bahasa biasa tanpa harus menentukan sendiri setiap tahap teknis di belakangnya. Agen dapat mengambil data yang relevan dan menjalankan proses yang sesuai, tetapi pelaksanaannya tetap merujuk pada izin dan alur kerja yang diatur melalui Customer 360.
Pembedaan ini penting ketika AI diberi kemampuan untuk bertindak, bukan hanya menjawab pertanyaan. Jika agen dapat memperbarui catatan atau menjalankan persetujuan, perusahaan memerlukan cara untuk memastikan tindakannya sesuai kewenangan. Dalam rancangan Salesforce, sistem bisnis menjadi pembatas antara rekomendasi model dan tindakan yang benar-benar dieksekusi.
Aktivitas agen perlu bisa diperiksa
Salesforce juga menempatkan pencatatan aktivitas sebagai bagian dari tata kelola. Setiap langkah agen, termasuk data yang dipakai, keputusan yang dibuat, dan tindakan yang dijalankan, dapat ditelusuri. Catatan itu dapat membantu perusahaan memeriksa asal kesalahan, mengaudit kerja agen, serta menilai bagian yang perlu diperbaiki.
Gavin Barfield menekankan bahwa agen AI tidak semestinya dipasang lalu dibiarkan bekerja tanpa pengawasan. Ia menyamakan kebutuhan pemantauan agen dengan evaluasi terhadap karyawan: kinerjanya perlu diamati dan ditingkatkan secara berkelanjutan. Pendekatan ini menempatkan pengelolaan AI sebagai pekerjaan berulang, bukan urusan yang selesai setelah teknologi diterapkan.
Salesforce juga menyatakan perusahaan tidak harus mengganti seluruh sistem yang sudah digunakan untuk mulai mengadopsi agen AI. Investasi pada otomasi alur kerja, BPM, dan RPA dapat tetap dimanfaatkan. Perusahaan berupaya menyediakan lapisan orkestrasi agar agen dan aplikasi yang berbeda dapat berkoordinasi melalui standar terbuka, termasuk Agent-to-Agent atau A2A. Agentforce dan Agentic Fabric disebut sebagai bagian dari upaya tersebut.
Demonstrasi memperlihatkan tugas sehari-hari
Dalam demonstrasi yang dipandu Olivia Elvira Tanumihardja, Senior Manager Solution Engineering Salesforce Indonesia, konteks pelanggan yang sama ditampilkan melalui Agentforce Coworker, Claude, dan Slack. Pengguna dapat meminta ringkasan aktivitas, mencari peluang penjualan prioritas, menelaah risiko transaksi, serta menyiapkan bahan rapat dan draf surat elektronik lewat percakapan.
Agentforce Coworker dijelaskan sebagai asisten AI yang terhubung langsung dengan Salesforce Lightning untuk membantu pengguna berinteraksi dengan data dan aplikasi perusahaan. Agen semacam ini tidak hanya memberi jawaban, tetapi juga dapat mengerjakan tugas dengan memanfaatkan aplikasi, alur kerja, dan ketentuan organisasi yang tersedia.
Contoh tersebut menggambarkan ruang penggunaan AI untuk mengurangi pekerjaan administratif yang berulang. Dengan sebagian tugas itu ditangani melalui percakapan, karyawan dapat mengarahkan perhatian pada pekerjaan bernilai lebih tinggi, seperti membangun hubungan dengan pelanggan dan mendorong pertumbuhan bisnis.
Bagi perusahaan, tantangannya bukan semata memilih model yang paling mampu menghasilkan jawaban. Data yang digunakan, batas kewenangan, alur persetujuan, dan rekam aktivitas juga perlu disiapkan agar tindakan agen dapat dipertanggungjawabkan. Salesforce mengarahkan pengembangan berikutnya pada kemampuan menghubungkan teknologi baru dengan sistem yang sudah berjalan, sembari mempertahankan kendali organisasi atas keputusan dan eksekusinya.
