Apa itu Thread-Safety dan Bagaimana Mencapainya?

1. Ikhtisar

Java mendukung multithreading di luar kotak. Ini berarti bahwa dengan menjalankan bytecode secara bersamaan di thread pekerja terpisah, JVM mampu meningkatkan kinerja aplikasi.

Meskipun multithreading adalah fitur yang kuat, ada harganya. Dalam lingkungan multithread, kita perlu menulis implementasi dengan cara yang aman untuk thread. Ini berarti bahwa utas yang berbeda dapat mengakses sumber daya yang sama tanpa memperlihatkan perilaku yang salah atau menghasilkan hasil yang tidak dapat diprediksi. Metodologi pemrograman ini dikenal sebagai “keamanan benang”.

Dalam tutorial ini, kita akan melihat berbagai pendekatan untuk mencapainya.

2. Implementasi Stateless

Dalam kebanyakan kasus, kesalahan dalam aplikasi multithread adalah hasil dari status berbagi yang salah antara beberapa utas.

Oleh karena itu, pendekatan pertama yang akan kita lihat adalah mencapai keamanan thread menggunakan implementasi stateless .

Untuk lebih memahami pendekatan ini, mari pertimbangkan kelas utilitas sederhana dengan metode statis yang menghitung faktorial sebuah bilangan:

public class MathUtils { public static BigInteger factorial(int number) { BigInteger f = new BigInteger("1"); for (int i = 2; i <= number; i++) { f = f.multiply(BigInteger.valueOf(i)); } return f; } } 

Metode faktorial () adalah fungsi deterministik stateless. Dengan adanya masukan tertentu, ia selalu menghasilkan keluaran yang sama.

Metode ini tidak bergantung pada keadaan eksternal atau mempertahankan keadaan sama sekali . Karenanya, ini dianggap aman untuk utas dan dapat dipanggil dengan aman oleh banyak utas pada saat yang bersamaan.

Semua utas bisa dengan aman memanggil metode faktorial () dan akan mendapatkan hasil yang diharapkan tanpa mengganggu satu sama lain dan tanpa mengubah keluaran yang dihasilkan metode untuk utas lain.

Oleh karena itu, implementasi stateless adalah cara termudah untuk mencapai keamanan thread .

3. Penerapan yang Tidak Dapat Diubah

Jika kita perlu membagikan status di antara utas yang berbeda, kita dapat membuat kelas aman untuk utas dengan membuatnya tidak dapat diubah .

Keabadian adalah konsep bahasa-agnostik yang kuat dan cukup mudah dicapai di Java.

Sederhananya, instance kelas tidak dapat diubah ketika status internalnya tidak dapat diubah setelah dibuat .

Cara termudah untuk membuat kelas yang tidak dapat diubah di Java adalah dengan mendeklarasikan semua bidang sebagai pribadi dan final dan tidak menyediakan penyetel:

public class MessageService { private final String message; public MessageService(String message) { this.message = message; } // standard getter }

Sebuah MessageService objek secara efektif berubah sejak negara yang tidak bisa berubah setelah konstruksi. Karenanya, ini aman untuk benang.

Selain itu, jika MessageService sebenarnya bisa berubah, tetapi beberapa utas hanya memiliki akses hanya-baca, itu juga aman untuk utas.

Jadi, kekekalan hanyalah cara lain untuk mencapai keamanan benang .

4. Bidang Thread-Lokal

Dalam pemrograman berorientasi objek (OOP), objek sebenarnya perlu mempertahankan status melalui bidang dan mengimplementasikan perilaku melalui satu atau lebih metode.

Jika kita benar-benar perlu mempertahankan status, kita bisa membuat kelas aman-thread yang tidak berbagi status antar-thread dengan menjadikan bidangnya thread-local.

Kita dapat dengan mudah membuat kelas yang bidangnya thread-local dengan hanya mendefinisikan bidang pribadi di kelas Thread .

Kita bisa menentukan, misalnya, Thread kelas yang menyimpan sebuah array yang dari bilangan bulat :

public class ThreadA extends Thread { private final List numbers = Arrays.asList(1, 2, 3, 4, 5, 6); @Override public void run() { numbers.forEach(System.out::println); } }

Sementara satu lagi mungkin mengadakan berbagai dari string :

public class ThreadB extends Thread { private final List letters = Arrays.asList("a", "b", "c", "d", "e", "f"); @Override public void run() { letters.forEach(System.out::println); } }

Dalam kedua implementasi, kelas memiliki statusnya sendiri, tetapi tidak dibagikan dengan utas lain. Dengan demikian, kelas tersebut aman untuk thread.

Demikian pula, kita dapat membuat bidang thread-local dengan menetapkan instance ThreadLocal ke sebuah field.

Mari pertimbangkan, misalnya, kelas StateHolder berikut :

public class StateHolder { private final String state; // standard constructors / getter }

Kita dapat dengan mudah menjadikannya variabel lokal-thread sebagai berikut:

public class ThreadState { public static final ThreadLocal statePerThread = new ThreadLocal() { @Override protected StateHolder initialValue() { return new StateHolder("active"); } }; public static StateHolder getState() { return statePerThread.get(); } }

Kolom thread-local hampir sama dengan kolom kelas normal, kecuali bahwa setiap thread yang mengaksesnya melalui penyetel / pengambil mendapatkan salinan kolom yang diinisialisasi secara independen sehingga setiap thread memiliki statusnya sendiri.

5. Koleksi Tersinkronisasi

Kita dapat dengan mudah membuat koleksi yang aman untuk thread dengan menggunakan kumpulan pembungkus sinkronisasi yang disertakan dalam kerangka koleksi.

Kita dapat menggunakan, misalnya, salah satu pembungkus sinkronisasi berikut untuk membuat koleksi yang aman untuk thread:

Collection syncCollection = Collections.synchronizedCollection(new ArrayList()); Thread thread1 = new Thread(() -> syncCollection.addAll(Arrays.asList(1, 2, 3, 4, 5, 6))); Thread thread2 = new Thread(() -> syncCollection.addAll(Arrays.asList(7, 8, 9, 10, 11, 12))); thread1.start(); thread2.start(); 

Ingatlah bahwa koleksi tersinkronisasi menggunakan penguncian intrinsik di setiap metode (kita akan melihat penguncian intrinsik nanti).

Ini berarti bahwa metode hanya dapat diakses oleh satu utas pada satu waktu, sementara utas lainnya akan diblokir hingga metode dibuka kuncinya oleh utas pertama.

Jadi, sinkronisasi memiliki penalti dalam kinerja, karena logika yang mendasari akses tersinkronisasi.

6. Koleksi Bersamaan

Sebagai alternatif untuk koleksi yang disinkronkan, kita dapat menggunakan koleksi bersamaan untuk membuat koleksi yang aman untuk thread.

Java menyediakan paket java.util.concurrent , yang berisi beberapa koleksi bersamaan, seperti ConcurrentHashMap :

Map concurrentMap = new ConcurrentHashMap(); concurrentMap.put("1", "one"); concurrentMap.put("2", "two"); concurrentMap.put("3", "three"); 

Tidak seperti rekan tersinkronisasi , koleksi serentak mencapai keamanan thread dengan membagi datanya menjadi beberapa segmen . Dalam ConcurrentHashMap , misalnya, beberapa utas dapat memperoleh kunci pada segmen peta yang berbeda, sehingga beberapa utas dapat mengakses Peta pada saat yang bersamaan.

Koleksi serentak jauh lebih berkinerja daripada koleksi yang disinkronkan , karena keunggulan inheren dari akses utas serentak.

Perlu disebutkan bahwa koleksi yang disinkronkan dan bersamaan hanya membuat koleksi itu sendiri aman untuk utas dan bukan kontennya .

7. Benda Atom

Keamanan thread juga dapat dicapai menggunakan kumpulan kelas atom yang disediakan Java, termasuk AtomicInteger , AtomicLong , AtomicBoolean , dan AtomicReference .

Kelas atom memungkinkan kita melakukan operasi atom, yang aman untuk thread, tanpa menggunakan sinkronisasi . Operasi atom dijalankan dalam satu operasi level mesin.

Untuk memahami masalah yang berhasil diselesaikan, mari kita lihat kelas Counter berikut :

public class Counter { private int counter = 0; public void incrementCounter() { counter += 1; } public int getCounter() { return counter; } }

Misalkan dalam kondisi balapan, dua utas mengakses metode incrementCounter () pada saat yang sama.

In theory, the final value of the counter field will be 2. But we just can't be sure about the result, because the threads are executing the same code block at the same time and incrementation is not atomic.

Let's create a thread-safe implementation of the Counter class by using an AtomicInteger object:

public class AtomicCounter { private final AtomicInteger counter = new AtomicInteger(); public void incrementCounter() { counter.incrementAndGet(); } public int getCounter() { return counter.get(); } }

This is thread-safe because, while incrementation, ++, takes more than one operation, incrementAndGet is atomic.

8. Synchronized Methods

While the earlier approaches are very good for collections and primitives, we will at times need greater control than that.

So, another common approach that we can use for achieving thread-safety is implementing synchronized methods.

Simply put, only one thread can access a synchronized method at a time while blocking access to this method from other threads. Other threads will remain blocked until the first thread finishes or the method throws an exception.

We can create a thread-safe version of incrementCounter() in another way by making it a synchronized method:

public synchronized void incrementCounter() { counter += 1; }

We've created a synchronized method by prefixing the method signature with the synchronized keyword.

Since one thread at a time can access a synchronized method, one thread will execute the incrementCounter() method, and in turn, others will do the same. No overlapping execution will occur whatsoever.

Synchronized methods rely on the use of “intrinsic locks” or “monitor locks”. An intrinsic lock is an implicit internal entity associated with a particular class instance.

In a multithreaded context, the term monitor is just a reference to the role that the lock performs on the associated object, as it enforces exclusive access to a set of specified methods or statements.

When a thread calls a synchronized method, it acquires the intrinsic lock. After the thread finishes executing the method, it releases the lock, hence allowing other threads to acquire the lock and get access to the method.

We can implement synchronization in instance methods, static methods, and statements (synchronized statements).

9. Synchronized Statements

Sometimes, synchronizing an entire method might be overkill if we just need to make a segment of the method thread-safe.

To exemplify this use case, let's refactor the incrementCounter() method:

public void incrementCounter() { // additional unsynced operations synchronized(this) { counter += 1;  } }

The example is trivial, but it shows how to create a synchronized statement. Assuming that the method now performs a few additional operations, which don't require synchronization, we only synchronized the relevant state-modifying section by wrapping it within a synchronized block.

Unlike synchronized methods, synchronized statements must specify the object that provides the intrinsic lock, usually the this reference.

Synchronization is expensive, so with this option, we are able to only synchronize the relevant parts of a method.

9.1. Other Objects as a Lock

We can slightly improve the thread-safe implementation of the Counter class by exploiting another object as a monitor lock, instead of this.

Not only does this provide coordinated access to a shared resource in a multithreaded environment, but also it uses an external entity to enforce exclusive access to the resource:

public class ObjectLockCounter { private int counter = 0; private final Object lock = new Object(); public void incrementCounter() { synchronized(lock) { counter += 1; } } // standard getter }

We use a plain Object instance to enforce mutual exclusion. This implementation is slightly better, as it promotes security at the lock level.

When using this for intrinsic locking, an attacker could cause a deadlock by acquiring the intrinsic lock and triggering a denial of service (DoS) condition.

On the contrary, when using other objects, that private entity is not accessible from the outside. This makes it harder for an attacker to acquire the lock and cause a deadlock.

9.2. Caveats

Even though we can use any Java object as an intrinsic lock, we should avoid using Strings for locking purposes:

public class Class1 { private static final String LOCK = "Lock"; // uses the LOCK as the intrinsic lock } public class Class2 { private static final String LOCK = "Lock"; // uses the LOCK as the intrinsic lock }

At first glance, it seems that these two classes are using two different objects as their lock. However, because of string interning, these two “Lock” values may actually refer to the same object on the string pool. That is, the Class1 and Class2 are sharing the same lock!

This, in turn, may cause some unexpected behaviors in concurrent contexts.

In addition to Strings, we should avoid using any cacheable or reusable objects as intrinsic locks. For example, the Integer.valueOf() method caches small numbers. Therefore, calling Integer.valueOf(1) returns the same object even in different classes.

10. Volatile Fields

Synchronized methods and blocks are handy for addressing variable visibility problems among threads. Even so, the values of regular class fields might be cached by the CPU. Hence, consequent updates to a particular field, even if they're synchronized, might not be visible to other threads.

To prevent this situation, we can use volatile class fields:

public class Counter { private volatile int counter; // standard constructors / getter }

With the volatile keyword, we instruct the JVM and the compiler to store the counter variable in the main memory. That way, we make sure that every time the JVM reads the value of the counter variable, it will actually read it from the main memory, instead of from the CPU cache. Likewise, every time the JVM writes to the counter variable, the value will be written to the main memory.

Moreover, the use of a volatile variable ensures that all variables that are visible to a given thread will be read from the main memory as well.

Let's consider the following example:

public class User { private String name; private volatile int age; // standard constructors / getters }

In this case, each time the JVM writes the agevolatile variable to the main memory, it will write the non-volatile name variable to the main memory as well. This assures that the latest values of both variables are stored in the main memory, so consequent updates to the variables will automatically be visible to other threads.

Similarly, if a thread reads the value of a volatile variable, all the variables visible to the thread will be read from the main memory too.

This extended guarantee that volatile variables provide is known as the full volatile visibility guarantee.

11. Reentrant Locks

Java provides an improved set of Lock implementations, whose behavior is slightly more sophisticated than the intrinsic locks discussed above.

With intrinsic locks, the lock acquisition model is rather rigid: one thread acquires the lock, then executes a method or code block, and finally releases the lock, so other threads can acquire it and access the method.

There's no underlying mechanism that checks the queued threads and gives priority access to the longest waiting threads.

ReentrantLock instances allow us to do exactly that, hence preventing queued threads from suffering some types of resource starvation:

public class ReentrantLockCounter { private int counter; private final ReentrantLock reLock = new ReentrantLock(true); public void incrementCounter() { reLock.lock(); try { counter += 1; } finally { reLock.unlock(); } } // standard constructors / getter }

The ReentrantLock constructor takes an optional fairnessboolean parameter. When set to true, and multiple threads are trying to acquire a lock, the JVM will give priority to the longest waiting thread and grant access to the lock.

12. Read/Write Locks

Another powerful mechanism that we can use for achieving thread-safety is the use of ReadWriteLock implementations.

A ReadWriteLock lock actually uses a pair of associated locks, one for read-only operations and other for writing operations.

Akibatnya, mungkin saja ada banyak utas yang membaca sumber daya, selama tidak ada utas yang menulis padanya. Selain itu, penulisan utas ke sumber daya akan mencegah utas lain membacanya .

Kita dapat menggunakan kunci ReadWriteLock sebagai berikut:

public class ReentrantReadWriteLockCounter { private int counter; private final ReentrantReadWriteLock rwLock = new ReentrantReadWriteLock(); private final Lock readLock = rwLock.readLock(); private final Lock writeLock = rwLock.writeLock(); public void incrementCounter() { writeLock.lock(); try { counter += 1; } finally { writeLock.unlock(); } } public int getCounter() { readLock.lock(); try { return counter; } finally { readLock.unlock(); } } // standard constructors } 

13. Kesimpulan

Dalam artikel ini, kami mempelajari apa itu keamanan thread di Java, dan melihat secara mendalam berbagai pendekatan untuk mencapainya .

Seperti biasa, semua contoh kode yang ditampilkan dalam artikel ini tersedia di GitHub.