Temat: sieci backpropagation

Skocz do pozycji: 1.

Tytuł:: Wykorzystanie transformacji log-Hough’a do tworzenia reprezentacji obrazu dla klasyfikatora neuronowego
Log-Hough based image representation for the neural classifier
Autorzy:: Piekarski, P.
Mikrut, Z.
Tematy:: fotogrametria
reprezentacja obrazu
log-polar
log-Hough
wzajemne dopasowanie
sieci backpropagation
photogrammetry
image representation
mutual matching
backpropagation networks; Pokaż więcej
Wydawca:: Stowarzyszenie Geodetów Polskich
Powiązania:: https://bibliotekanauki.pl/articles/130564.pdf Link otwiera się w nowym oknie
Opis:: Artykuł przedstawia metodę tworzenia reprezentacji fragmentu obrazu oparta o transformacje log-polar i log-Hough’a. Transformacje te są uważane za uproszczone modele biologicznych systemów wizyjnych. Reprezentacje obrazu stanowią rzuty przestrzeni log-Hough’a na osie: katów i promieni. Tak utworzone wektory stanowią wejście do sieci neuronowej typu backpropagation. Zadaniem sieci jest klasyfikacja reprezentacji obrazów na „korzystne” i „niekorzystne” z punktu widzenia późniejszego dopasowywania, którego celem jest automatyczna orientacja wzajemna zdjęć fotogrametrycznych. Badano sieci z jedna warstwa ukryta o zmiennej liczbie elementów. Najlepsze sieci rozpoznały zbiór testowy na poziomie 70%.
In the present paper, the method for generation of the sub-image representation is presented. The method is based on log-polar and log-Hough transforms. These transforms are considered to be very simplified models of the biological visual systems. The projections of the log- Hough space onto the two axes (the angles and the radii ones) are taken as the sub-image representation. These vectors form an input to the backpropagation neural network. The network task is to classify the sub-images as “advantageous” or “non-advantageous” from the subsequent mutual matching point of view. Several networks which have a variable number of neurons in one hidden layer have been tested. The best recognition rates about 70% (test set) have been obtained.
Dostawca treści:: Biblioteka Nauki

Artykuł

na półce

Skocz do pozycji: 2.

Tytuł:: Selekcja podobrazów dla potrzeb dopasowywania zdjęć lotniczych oparta na histogramach gradientu i sieci neuronowej
Selection of sub-images for aerial photographs matching purposes based on gradient distribution and neural networks
Autorzy:: Czechowicz, A.
Mikrut, Z.
Tematy:: fotogrametria
wzajemne dopasowanie
algorytm Canny'ego
histogram gradientów
SOM
sieci Kohonena
sieci backpropagation
photogrammetry
mutual matching
Canny edge detector
gradient histogram
Kohonen networks
backpropagation networks; Pokaż więcej
Wydawca:: Stowarzyszenie Geodetów Polskich
Powiązania:: https://bibliotekanauki.pl/articles/131000.pdf Link otwiera się w nowym oknie
Opis:: Artykuł przedstawia wyniki wykorzystania sieci neuronowych do selekcji podobrazów oraz wyniki wyszukiwania wybranych obszarów na pozostałych zdjęciach z wykorzystaniem rozkładu odpowiedzi dla sieci SOM Kohonena. Zaproponowano reprezentacje fragmentu obrazu oparta na rozkładzie wartości modułu gradientu i jego kierunku. Badania przeprowadzono na dziewięciuset podobrazach zdjęć lotniczych okolic Krakowa o różnym pokryciu terenu podzielonych na trzy kategorie: obszarów korzystnych, pośrednich i niekorzystnych pod względem wyszukiwania cech do orientacji wzajemnej. Dla każdego z obrazów, w oparciu o algorytm Canny’ego, wyznaczono krawędzie. Na podstawie wartości gradientu i kierunków wykrytych krawędzi sporządzono histogram, który następnie posłużył wyznaczeniu reprezentacji podobrazu w postaci profilu kierunku. Tak przygotowana reprezentacje wykorzystano do uczenia sieci neuronowych metoda nadzorowana (backpropagation) oraz nienadzorowana (Kohonena), a następnie do klasyfikacji obszarów nauczonymi sieciami. W przypadku sieci backpropagation miara efektywności klasyfikacji był globalny współczynnik rozpoznania oraz macierz pomyłek. Dla sieci Kohonena wyznaczano współczynnik kompletności i poprawności. Wyniki zestawiono z rezultatami otrzymanymi na drodze uczenia metoda wstecznej propagacji błędów, gdzie generowane na mapie Kohonena odpowiedzi stanowiły sygnał wejściowy dla warstwy backpropagation. W dalszym etapie wytypowane obszary korzystne poszukiwano na sąsiednich obrazach. Wzmocniony funkcja preferująca wysokie wartości rozkład odpowiedzi na mapie cech siec Kohonena, uzyskany dla podobrazów korzystnych, porównywano z rozkładem dla podobrazów o tych samych wymiarach na sąsiednich zdjęciach. Za miarę podobieństwa obszarów przyjęto współczynnik korelacji dla porównywanych odpowiedzi sieci.
This paper describes the application of neural networks for selection of sub-images and the result of the search for the selected areas on the remaining photographs with the utilisation of Kohonen’s SOM network responses distribution. Image fragment representation based on the gradient magnitude values distribution and its direction was proposed. The research was conducted on nine hundred sub-images, taken from aerial photographs of the Cracow’s environs with different terrain cover, divided into three categories: advantageous, intermediate and disadvantageous areas in respect of searching for the features for mutual matching. The edges were detected with Canny algorithm. Based on the gradient values and the directions of the edges, the histogram was created and used to determine the representation of the sub-image in the direction’s profile form. The prepared representation served for teaching the neural network using supervised (backpropagation) and unsupervised (Kohonen) method and later for the classification. For the backpropagation network, the classification effectiveness was measured using the global recognition coefficient and the cooccurrence matrix. For the Kohonen network, the completeness and correctness coefficients were determined. Afterwards, the two networks were put together: the responses generated on the Kohonen map constituted the input signal for the backpropagation layer. In the next step, the adjacent images were sought for the chosen areas. Response distribution on the Kohonen network feature map, amplified with the function preferring the high values, was compared with the distribution for the same size sub-images of the adjacent photographs. To measure the similarity of the subimages, the correlation coefficient to compare network’s responses was used.
Dostawca treści:: Biblioteka Nauki

Artykuł

na półce

Skocz do pozycji: 3.

Tytuł:: 2D Cadastral Coordinate Transformation using extreme learning machine technique
Autorzy:: Ziggah, Y. Y.
Issaka, Y.
Laari, P. B.
Hui, Z.
Tematy:: transformacja współrzędnych
sieci neuronowe
dane geodezyjne
sieć radialna
coordinate transformation
extreme learning machine
backpropagation neural network
radial basis function neural network
geodetic datum; Pokaż więcej
Wydawca:: Polska Akademia Nauk. Czytelnia Czasopism PAN
Powiązania:: https://bibliotekanauki.pl/articles/145372.pdf Link otwiera się w nowym oknie
Opis:: Land surveyors, photogrammetrists, remote sensing engineers and professionals in the Earth sciences are often faced with the task of transferring coordinates from one geodetic datum into another to serve their desired purpose. The essence is to create compatibility between data related to different geodetic reference frames for geospatial applications. Strictly speaking, conventional techniques of conformal, affine and projective transformation models are mostly used to accomplish such task. With developing countries like Ghana where there is no immediate plans to establish geocentric datum and still rely on the astro-geodetic datums as it national mapping reference surface, there is the urgent need to explore the suitability of other transformation methods. In this study, an effort has been made to explore the proficiency of the Extreme Learning Machine (ELM) as a novel alternative coordinate transformation method. The proposed ELM approach was applied to data found in the Ghana geodetic reference network. The ELM transformation result has been analysed and compared with benchmark methods of backpropagation neural network (BPNN), radial basis function neural network (RBFNN), two-dimensional (2D) affine and 2D conformal. The overall study results indicate that the ELM can produce comparable transformation results to the widely used BPNN and RBFNN, but better than the 2D affine and 2D conformal. The results produced by ELM has demonstrated it as a promising tool for coordinate transformation in Ghana.
Dostawca treści:: Biblioteka Nauki

Artykuł

na półce

Skocz do pozycji: 4.

Tytuł:: Quantization Techniques in Compressive Neural Networks.
Techniki Kwantyzacji w Kompresujących Sieciach Neuronowych.
Autorzy:: Nowak, Jakub
Opis:: Strony internetowe serwujące obrazy w wysokiej rozdzielczości są obecnie standardem. Nowe formaty takie jak obrazy 360 stopni, czy też wirtualna rzeczywistość (VR) zyskują na popularności. W tym kontekście, kompresja danych staje się zadaniem koniecznym, które może obniżyć zarówno ruch sieciowy, jak i miejsce na dyskach.Przez wiele lat kompresja danych była domeną dla ręcznie stworzonych algorytmów. Jednakże w ostatnich latach widzieliśmy wiele postępów w dziedzinie uczenia maszynowego. Sieci neuronowe zrewolucjonizowały wiele zadań, takich jak klasyfikacja obrazów czy też rozpoznawanie obiektów. Wkrótce ludzie też spróbowali zaaplikować metody głębokiego uczenia do problemu kompresji obrazów.Okazało się, że nowe problemy muszą zostać rozwiązane w celu wytrenowania z sukcesem kompresującej sieci neuronowej. Integralną częścią stratnej kompresji jest kwantyzacja. Jest ona zawarta w funkcjach zaokrąglających, które powodują utratę części informacji. Operacje te nie są różniczkowalne, co powoduje trudności w trenowaniu takich sieci neuronowych. W tej pracy magisterskiej rozważamy różne techniki stosowane w kompresujących sieciach neuronowych oraz proponujemy nowe podejścia. Zarysowujemy ich tło teoretyczne i przeprowadzamy empiryczne eksperymenty. Na koniec, porównujemy wydajność różnych modułów kwantyzacji w tym samym środowisku testowym.
Websites serving high-resolution images have now become a standard. New formats like 360 images or VR content gain popularity. In this context, data compression becomes a crucial task, which can reduce both Internet traffic and occupied storage. For many years, data compression was a domain for handcrafted algorithms. More recently, however, there have been many advances in the field of machine learning. Neural networks have revolutionized a lot of tasks, such as image classification or object recognition. Soon, people tried to apply deep learning techniques to the image compression problem. It occurred that new difficulties need to be overcome to have a successful compressive network. The integral part of lossy compression is quantization. It is contained in rounding functions and is responsible for the loss of information. Those operations are not differentiable, which makes it hard to train neural networks. In this paper, we investigate different techniques used in compressive neural networks to deal with quantization and also propose new approaches. We outline their theoretical background and conduct empiricalexperiments. Finally, we compare the performance of different quantizer modules in the same evaluation environment.
Dostawca treści:: Repozytorium Uniwersytetu Jagiellońskiego

Inne

na półce

Skocz do pozycji: 5.

Tytuł:: Podstawy algorytmu GAN i jego modyfikacje
Basics of GAN algorithm and its modifications
Autorzy:: Faber, Tomasz
Opis:: The paper presents the Generative Adversarial Network algorithm, that consists of two competing neural networks: a generator and a discriminator. The goal of the algorithm is to train the generator to produce images, that resemble images from real data distribution.In the first chapter there is discussed multilayer perceptron. There is also discussed the problem of training this kind of neural networks using the backpropagation method.The second chapter presents the structure and operation of convolutional neural networks. There is presented backpropagation algorithm for this kind of networks.The third chapter presents the operation of the GAN algorithm. There is also presented GAN algorithm in terms of a zero-sum game.In chapter four thera are presented basic divergence measures between probability distributions. In particular, the Jensen Shannon divergence and the Wasserstein metrics. The Kantorovich-Rubinstein duality theorem is also cited.The fifth chapter presents the WGAN and WGAN-GP algorithms. There is explained the use of the Wasserstein metric as a cost function in GAN algorithm.In the sixth chapter there is presented an empirical comparison of all the algorithms discussed in the paper.
W pracy poruszony jest temat algorytmu Generative Adversarial Network składającego się z dwóch konkurujących ze sobą sieci neuronowych generatora i dyskryminatora. Celem algorytmu jest nauczenie generatora produkować obrazy, które przypominają obrazy z prawdziwego rozkładu obrazów. W pierwszym rozdziale pracy są omówione wielowarstwowe sieci neuronowe. Znajduje się tam także omówiony problem uczenia tych sieci przy użyciu metody propagacji wstecz. W drugim rozdziale przedstawiona jest budowa oraz działanie konwolucyjnych sieci neuronowych. Przedstawiony jest także schemat propagacji wstecz w takich sieciach. W trzecim rozdziale zaprezentowane jest działanie algorytmu GAN. Przedstawione jest również działane GAN jako gry o sumie zerowej. W rozdziale czwartym omówione są podstawowe miary dywergencji rozkładów prawdopodobieństwa. W szczególności, dywergencji Jensena Shannona oraz metryki Wasserstein. Jest także przytoczone twierdzenie o dualności Kantorovicha-Rubinsteina.W rozdziale piątym przedstawiony jest algorytm WGAN oraz WGAN-GP. Znajduje się tu także wyjaśnienie zastosowania metryki Wasserstein jako funkcji kosztu w algorytmie GAN. W rozdziale szóstym przedstawione jest empiryczne porównanie wszystkich algorytmów omówionych w pracy.
Dostawca treści:: Repozytorium Uniwersytetu Jagiellońskiego

Inne

na półce

Skocz do pozycji: 6.

Tytuł:: Analysis of statistical properties of machine learning training
Badanie statystycznych własności treningu modeli uczenia maszynowego
Autorzy:: Sibik, Michał
Opis:: Firstly, deep neural network applications are presented. Next, the structure of neural networks and tensor data representation are described. Basic tensor manipulation and algebraic operations are illustrated.The most important parameters of neural networks - weights - are depicted, along with methods of their optimization. Keras API and Google Colab notebooks are introduced.In the next part, 3 classification problems are described - IMDB movie reviews dataset, MNIST-10 handwritten digits dataset and CIFAR-10 dataset. For each of the problems, a unique deep neural network model is created and described.Lastly, weight distributions of each model before and after training are analysed.
Przedstawione zostają zastosowania głębokich sieci neuronowych. Następnie, opisana jest struktura sieci neuronowych i reprezentacja danych w postaci tensorów. Ukazane są podstawowe operacje na tensorach.Przedstawione są najważniejsze parametry sieci neuronowych - wagi, oraz sposoby ich optymalizacji.Następuje wprowadzenie do pythonowego środowiska Keras i krótka prezentacja notebooków Google Colab.W kolejnej części opisane są 3 problemy klasyfikacji - recenzji IMDB, obrazów MNIST-10, oraz obrazów CIFAR-10. Dla każego z problemów przedstawiony jest inny model sieci neuronowej.Finalnie, analizowane są rozkłady wag poszczególnych modeli przed, oraz po treningu.
Dostawca treści:: Repozytorium Uniwersytetu Jagiellońskiego

Inne

na półce

Skocz do pozycji: 7.

Tytuł:: Abstractive summarization of legal court documents using machine learning methods
Tworzenie streszczeń tekstów prawnych z użyciem metod uczenia maszynowego
Autorzy:: Wasylkowski, Jakub
Opis:: This paper focuses on creating and testing a neural network in order to generate abstractive summaries of legal court cases in English while trying to maintain as much context and meaning as possible. The model is built using an encoder-decoder architecture facilitated by the use of LSTM (Long Short Term Memory) layers. The results show a possible approach to summarizing legal text. The abstractive summary domain exists in an experimental stage and a legal body of text also brings enough peculiarity to disrupt the work of existing solutions. Problems still exist in creating a proper representation of context within the model itself.Many known problems tied to automatic text summarization are also present in the experiments. Most notably the loss of any overarching context when feeding the network long source material. Another spotted issue was related to the decoder tending to endlessly repeat word sequences in its output. Present were also problems more acute to summarizing legal texts: high frequency of legal keywords across the entire dataset, but low density on a per document basis. These words would ordinarily be removed in preprocessing, but their contextual value prohibits that.The main conclusions are that to carry out more effective text generation, the neural model needs more layers with possibly an attention sub-model to better handle issues of lost context. This in turn means the model requires more processing power and longer training times to produce satisfying results.
Niniejsza praca jest poświęcona stworzeniu i przetestowaniu modelu sieci neuronowej w celu przeprowadzenia abstrakcyjnego streszczenia tekstu wyroku sądowego w języku angielskim z zachowaniem ogólnego znaczenia i kontekstu. Model został zbudowany w strukturze enkoder-dekoder z wykorzystaniem rekurencyjnych warstw „Long Short Term Memory” (LSTM). Wyniki tej pracy pokazują możliwe podejście do streszczania tekstów natury prawnej. Dziedzina abstrakcyjnego streszczania tekstów nadal istnieje w fazie eksperymentalnej a struktura wyroku sądowego stawia dodatkowe wyzwania przy budowaniu stosownej reprezentacji kontekstu wewnątrz modelu. Wiele znanych w powszechnej praktyce problemów w streszczaniu tekstów pojawia się również w przeprowadzanych eksperymentach. Zwłaszcza gubienie kontekstu w długich tekstach źródłowych lub powtarzanie sekwencji słów na wyjściu dekodera. Obecne są również problemy charakterystyczne dla streszczania wyroków w dziedzinie prawa jak wysoka częstotliwość występowania niektórych słów kluczy, rzadko występujących w tekście, ale zbyt ważnych dla kontekstu, aby wyeliminować je w trakcie automatycznej obróbki tekstu.
Dostawca treści:: Repozytorium Uniwersytetu Jagiellońskiego

Inne

na półce

Informacja

Wyszukujesz frazę "sieci backpropagation" wg kryterium: Temat