Panduan untuk Java ExecutorService

1. Ikhtisar

ExecutorService adalah kerangka kerja yang disediakan oleh JDK yang menyederhanakan eksekusi tugas dalam mode asinkron. Secara umum, ExecutorService secara otomatis menyediakan kumpulan utas dan API untuk menetapkan tugas padanya.

2. Membuat Instansi ExecutorService

2.1. Metode Pabrik dari Kelas Pelaksana

Cara termudah untuk membuat ExecutorService adalah menggunakan salah satu metode pabrik dari kelas Executors .

Misalnya, baris kode berikut akan membuat kumpulan utas dengan 10 utas:

ExecutorService executor = Executors.newFixedThreadPool(10);

Ada beberapa metode pabrik lain untuk membuat ExecutorService standar yang memenuhi kasus penggunaan tertentu. Untuk menemukan metode terbaik untuk kebutuhan Anda, lihat dokumentasi resmi Oracle.

2.2. Langsung Buat ExecutorService

Karena ExecutorService adalah sebuah antarmuka, instance dari implementasinya dapat digunakan. Ada beberapa implementasi yang dapat dipilih dalam paket java.util.concurrent atau Anda dapat membuatnya sendiri.

Misalnya, kelas ThreadPoolExecutor memiliki beberapa konstruktor yang dapat digunakan untuk mengkonfigurasi layanan pelaksana dan kumpulan internalnya.

ExecutorService executorService = new ThreadPoolExecutor(1, 1, 0L, TimeUnit.MILLISECONDS, new LinkedBlockingQueue());

Anda mungkin memperhatikan bahwa kode di atas sangat mirip dengan kode sumber metode pabrik newSingleThreadExecutor (). Untuk kebanyakan kasus, konfigurasi manual yang mendetail tidak diperlukan.

3. Menugaskan Tugas ke ExecutorService

ExecutorService dapat menjalankan tugas-tugas Runnable dan Callable . Untuk mempermudah dalam artikel ini, dua tugas primitif akan digunakan. Perhatikan bahwa ekspresi lambda digunakan di sini sebagai ganti kelas dalam anonim:

Runnable runnableTask = () -> { try { TimeUnit.MILLISECONDS.sleep(300); } catch (InterruptedException e) { e.printStackTrace(); } }; Callable callableTask = () -> { TimeUnit.MILLISECONDS.sleep(300); return "Task's execution"; }; List
    
      callableTasks = new ArrayList(); callableTasks.add(callableTask); callableTasks.add(callableTask); callableTasks.add(callableTask);
    

Tugas bisa ditetapkan ke ExecutorService menggunakan beberapa metode, termasuk execute () , yang diwarisi dari antarmuka Executor , dan juga submit () , invokeAny (), invokeAll ().

The mengeksekusi () metode adalah batal, dan tidak memberikan kemungkinan untuk mendapatkan hasil pelaksanaan tugas atau untuk memeriksa status tugas ini (yang berjalan atau dieksekusi).

executorService.execute(runnableTask);

submit () mengirimkan tugas Callable atau Runnable ke ExecutorService dan mengembalikan hasil tipe Future .

Future future = executorService.submit(callableTask);

invokeAny () menetapkan kumpulan tugas ke ExecutorService, menyebabkan masing-masingtugasdieksekusi, dan mengembalikan hasil eksekusi yang berhasil dari satu tugas (jika ada eksekusi yang berhasil) .

String result = executorService.invokeAny(callableTasks);

invokeAll () menetapkan kumpulan tugas ke ExecutorService, menyebabkan masing-masingtugasdijalankan, dan mengembalikan hasil semua eksekusi tugas dalam bentuk daftar objek berjenis Future .

List
    
      futures = executorService.invokeAll(callableTasks);
    

Sekarang, sebelum melangkah lebih jauh, dua hal lagi harus didiskusikan: mematikan ExecutorService dan berurusan dengan tipe pengembalian Future .

4. Mematikan ExecutorService

Secara umum, ExecutorService tidak akan dimusnahkan secara otomatis saat tidak ada tugas untuk diproses. Itu akan tetap hidup dan menunggu pekerjaan baru dilakukan.

Dalam beberapa kasus, ini sangat membantu; misalnya, jika aplikasi perlu memproses tugas yang muncul secara tidak teratur atau jumlah tugas ini tidak diketahui pada waktu kompilasi.

Di sisi lain, aplikasi dapat mencapai akhirnya, tetapi tidak akan dihentikan karena ExecutorService yang menunggu akan menyebabkan JVM tetap berjalan.

Untuk mematikan ExecutorService dengan benar , kami memiliki API shutdown () dan shutdownNow () .

Metode shutdown () tidak menyebabkan kerusakan langsung pada ExecutorService. Ini akan membuat ExecutorService berhenti menerima tugas baru dan menutup setelah semua utas yang berjalan menyelesaikan pekerjaan mereka saat ini.

executorService.shutdown();

Metode shutdownNow () mencoba untuk segera menghancurkan ExecutorService , tetapi tidak menjamin bahwa semua utas yang berjalan akan dihentikan pada saat yang sama. Metode ini mengembalikan daftar tugas yang menunggu untuk diproses. Terserah pengembang untuk memutuskan apa yang harus dilakukan dengan tugas ini.

List notExecutedTasks = executorService.shutDownNow();

Satu cara yang baik untuk mematikan ExecutorService (yang juga direkomendasikan oleh Oracle) adalah dengan menggunakan kedua metode ini yang digabungkan dengan metode awaitTermination () . Dengan pendekatan ini, ExecutorService akan berhenti mengambil tugas baru terlebih dahulu, lalu menunggu hingga jangka waktu tertentu untuk menyelesaikan semua tugas. Jika waktu tersebut habis, eksekusi akan segera dihentikan:

executorService.shutdown(); try { if (!executorService.awaitTermination(800, TimeUnit.MILLISECONDS)) { executorService.shutdownNow(); } } catch (InterruptedException e) { executorService.shutdownNow(); }

5. Antarmuka Masa Depan

The submit() and invokeAll() methods return an object or a collection of objects of type Future, which allows us to get the result of a task's execution or to check the task's status (is it running or executed).

The Future interface provides a special blocking method get() which returns an actual result of the Callable task's execution or null in the case of Runnable task. Calling the get() method while the task is still running will cause execution to block until the task is properly executed and the result is available.

Future future = executorService.submit(callableTask); String result = null; try { result = future.get(); } catch (InterruptedException | ExecutionException e) { e.printStackTrace(); }

With very long blocking caused by the get() method, an application's performance can degrade. If the resulting data is not crucial, it is possible to avoid such a problem by using timeouts:

String result = future.get(200, TimeUnit.MILLISECONDS);

If the execution period is longer than specified (in this case 200 milliseconds), a TimeoutException will be thrown.

The isDone() method can be used to check if the assigned task is already processed or not.

The Future interface also provides for the cancellation of task execution with the cancel() method, and to check the cancellation with isCancelled() method:

boolean canceled = future.cancel(true); boolean isCancelled = future.isCancelled();

6. The ScheduledExecutorService Interface

The ScheduledExecutorService runs tasks after some predefined delay and/or periodically. Once again, the best way to instantiate a ScheduledExecutorService is to use the factory methods of the Executors class.

For this section, a ScheduledExecutorService with one thread will be used:

ScheduledExecutorService executorService = Executors .newSingleThreadScheduledExecutor();

To schedule a single task's execution after a fixed delay, us the scheduled() method of the ScheduledExecutorService. There are two scheduled() methods that allow you to execute Runnable or Callable tasks:

Future resultFuture = executorService.schedule(callableTask, 1, TimeUnit.SECONDS);

The scheduleAtFixedRate() method lets execute a task periodically after a fixed delay. The code above delays for one second before executing callableTask.

The following block of code will execute a task after an initial delay of 100 milliseconds, and after that, it will execute the same task every 450 milliseconds. If the processor needs more time to execute an assigned task than the period parameter of the scheduleAtFixedRate() method, the ScheduledExecutorService will wait until the current task is completed before starting the next:

Future resultFuture = service .scheduleAtFixedRate(runnableTask, 100, 450, TimeUnit.MILLISECONDS);

If it is necessary to have a fixed length delay between iterations of the task, scheduleWithFixedDelay() should be used. For example, the following code will guarantee a 150-millisecond pause between the end of the current execution and the start of another one.

service.scheduleWithFixedDelay(task, 100, 150, TimeUnit.MILLISECONDS);

According to the scheduleAtFixedRate() and scheduleWithFixedDelay() method contracts, period execution of the task will end at the termination of the ExecutorService or if an exception is thrown during task execution.

7. ExecutorService vs. Fork/Join

After the release of Java 7, many developers decided that the ExecutorService framework should be replaced by the fork/join framework. This is not always the right decision, however. Despite the simplicity of usage and the frequent performance gains associated with fork/join, there is also a reduction in the amount of developer control over concurrent execution.

ExecutorService gives the developer the ability to control the number of generated threads and the granularity of tasks which should be executed by separate threads. The best use case for ExecutorService is the processing of independent tasks, such as transactions or requests according to the scheme “one thread for one task.”

In contrast, according to Oracle's documentation, fork/join was designed to speed up work which can be broken into smaller pieces recursively.

8. Conclusion

Even despite the relative simplicity of ExecutorService, there are a few common pitfalls. Let's summarize them:

Keeping an unused ExecutorService alive: There is a detailed explanation in section 4 of this article about how to shut down an ExecutorService;

Wrong thread-pool capacity while using fixed length thread-pool: It is very important to determine how many threads the application will need to execute tasks efficiently. A thread-pool that is too large will cause unnecessary overhead just to create threads which mostly will be in the waiting mode. Too few can make an application seem unresponsive because of long waiting periods for tasks in the queue;

Calling a Future‘s get() method after task cancellation: An attempt to get the result of an already canceled task will trigger a CancellationException.

Unexpectedly-long blocking with Future‘s get() method: Timeouts should be used to avoid unexpected waits.

Kode untuk artikel ini tersedia di repositori GitHub.