Deep-learning methods for tumor cell segmentation

Automatická segmentácia obrázkov, najmä mikroskopických obrázkov buniek, otvára nové príležitosti vo výskume rakoviny alebo v iných praktických aplikáciách. Nedávny pokrok v oblasti hlbokého učenia umožnil efektívnu segmentáciu buniek, automatická segmentácia sub-celulárnych oblastí je však stále náročná. Táto práca popisuje implementáciu neurónovej siete U-net na segmentáciu buniek a sub-celulárnych oblastí bez označenia na obrázkoch adherujúcich buniek rakoviny prostaty, konkrétne PC-3 a 22Rv1. Použitím prístupu s najlepším výkonom zo všetkých testovaných sa podarilo rozlíšiť medzi objektami a pozadím s priemernými Jaccard koeficientmi 0,71, 0,64 a 0,46 pre celé bunky, jadrá a jadierka. Ďalším bodom bola separácia jednotlivých objektov, teda buniek v obraze pomocou metódy povodia. Pri separovaní jednotlivých buniek sa podarilo dosiahnuť výsledky s hodnotou SEG 0,41 a podľa AP metriky 0,44.Automatic segmentation of images, especially microscopic images of cells, opens up new opportunities in cancer research or other practical applications. Recent advances in deep learning have enabled efficient cell segmentation, but automatic segmentation of subcellular regions is still challenging. This work describes the implementation of the U-net neural network for segmentation of cells and subcellular regions without labeling in the pictures of adhering prostate cancer cells, specifically PC-3 and 22Rv1. Using the best-performing approach of all tested, it was possible to distinguish between objects and background with average Jaccard coefficients of 0.71, 0.64 and 0.46 for whole cells, nuclei and nucleoli. Another point was the separation of individual objects, i. e. cells, in the image using the Watershed method. The separation of individual cells resulted in SEG value of 0.41 and AP metric of 0.44.