Implementasi Sistem Konfigurasi Router Berbasis Natural Language Processing dengan Pendekatan Low Rank Adaptation Finetuning dan 8-Bit Quantization

Abstract

Konfigurasi Router merupakan salah satu hal penting dalam jaringan komputer. Proses ini memerlukan pemahaman tentang bahasa dan sintaks khusus yang dapat memakan waktu lama bagi seseorang yang tidak terbiasa. Penerapan Natural language processing bisa membantu mengatasi masalah ini. Untuk mencapai tujuan dari penerapan ini, Finetuning perlu dilakukan pada model yang ada seperti model GPT-J-6B yang telah dilatih menggunakan 6 milyar parameter. Dengan menggunakan dataset yang terdiri dari konfigurasi router, diharapkan proses finetuning bisa meningkatkan performa model untuk mendeteksi maksud dari input text dalam Bahasa natural yang kemudian bisa memberikan command-command yang sesuai dengan perintah yang diberikan. Selain itu penggunaan teknik lain seperti Low Rank Adaptation (LoRA) yang dapat digunakan untuk mengoptimalkan proses Finetuning agar lebih efisien tanpa mengurangi performa model, dan penggunaan teknik 8-bit quantization untuk memperkecil penggunaan resource saat menjalankan model. Dengan beberapa teknik ini, proses finetuning dapat dilakukan dengan stabil dalam Google Colaboratory. Oleh karena itu, dengan implementasi NLP pada konfigurasi router ini dan teknik-teknik diatas, dapat meningkatkan efektivitas pengelolaan jaringan dengan menggunakan waktu dan sumber daya yang efisien. Melalui penelitian ini berhasil didapatkan model konfigurasi router berbasis NLP dengan akurasi sebesar 98%.