Как настроить слой, который принимает изображение в градациях серого и выводит ARGB, делая один из цветов в градациях серого прозрачным?

Я начал с DeepLabV3 + mlmodel, который выводит 2D-массивы (сегментированные). Успешно добавлен слой, который принимает это в качестве входных данных и выводит изображение в оттенках серого.

Теперь я хотел бы взять это изображение GrayScale в качестве входного и выходного ARGB, в котором я хотел бы сделать любой из цветов прозрачным.

Как настроить такой слой?

Мой код на Python для этого:

import coremltools
import coremltools.proto.FeatureTypes_pb2 as ft

coreml_model = coremltools.models.MLModel('DeepLabKP.mlmodel')
spec = coreml_model.get_spec()
spec_layers = getattr(spec,spec.WhichOneof("Type")).layers


# find the current output layer and save it for later reference
last_layer = spec_layers[-1]
 
# add the post-processing layer
new_layer = spec_layers.add()
new_layer.name = 'image_gray_to_RGB'
 
# Configure it as an activation layer
new_layer.activation.linear.alpha = 255
new_layer.activation.linear.beta = 0
 
# Use the original model's output as input to this layer
new_layer.input.append(last_layer.output[0])
 
# Name the output for later reference when saving the model
new_layer.output.append('image_gray_to_RGB')
 
# Find the original model's output description
output_description = next(x for x in spec.description.output if x.name==last_layer.output[0])
 
# Update it to use the new layer as output
output_description.name = new_layer.name


# Function to mark the layer as output
# https://forums.developer.apple.com/thread/81571#241998
def convert_grayscale_image_to_RGB(spec, feature_name, is_bgr=False): 
    """ 
    Convert an output multiarray to be represented as an image 
    This will modify the Model_pb spec passed in. 
    Example: 
        model = coremltools.models.MLModel('MyNeuralNetwork.mlmodel') 
        spec = model.get_spec() 
        convert_multiarray_output_to_image(spec,'imageOutput',is_bgr=False) 
        newModel = coremltools.models.MLModel(spec) 
        newModel.save('MyNeuralNetworkWithImageOutput.mlmodel') 
    Parameters 
    ---------- 
    spec: Model_pb 
        The specification containing the output feature to convert 
    feature_name: str 
        The name of the multiarray output feature you want to convert 
    is_bgr: boolean 
        If multiarray has 3 channels, set to True for RGB pixel order or false for BGR 
    """
    for output in spec.description.output: 
        if output.name != feature_name: 
            continue
        if output.type.WhichOneof('Type') != 'imageType': 
            raise ValueError("%s is not a image type" % output.name)
        output.type.imageType.colorSpace = ft.ImageFeatureType.ColorSpace.Value('RGB')
 
# Mark the new layer as image
convert_grayscale_image_to_RGB(spec, output_description.name, is_bgr=False)

updated_model = coremltools.models.MLModel(spec)
 
updated_model.author = 'Saran'
updated_model.license = 'MIT'
updated_model.short_description = 'Inherits DeepLab V3+ and adds a layer to turn scores into an image'
updated_model.input_description['image'] = 'Input Image'
updated_model.output_description[output_description.name] = 'RGB Image'
 
model_file_name = 'DeepLabKP-G2R.mlmodel'
updated_model.save(model_file_name)

Хотя модель успешно сохраняется без каких-либо ошибок, ошибки прогнозирования, как показано ниже

result = model.predict({'image': img})
  File "/Users/saran/Library/Python/2.7/lib/python/site-packages/coremltools/models/model.py", line 336, in predict
    return self.__proxy__.predict(data, useCPUOnly)
RuntimeError: {
    NSLocalizedDescription = "Failed to convert output image_gray_to_RGB to image";
    NSUnderlyingError = "Error Domain=com.apple.CoreML Code=0 \"Invalid array shape (\n    1,\n    513,\n    513\n) for converting to gray image\" UserInfo={NSLocalizedDescription=Invalid array shape (\n    1,\n    513,\n    513\n) for converting to gray image}";
}

Я чувствую, что это связано с настройкой активации на этом слое. Но не нашел ничего, чтобы попробовать по-другому.

Любая помощь очень ценится.

Они масштабируют изображение серого цвета, которое я добавил, создавая

введите описание изображения здесь


person Saran    schedule 10.09.2020    source источник


Ответы (1)


Похоже, ваш результат имеет форму (1, 513, 513). Первое число, 1, - это количество каналов. Поскольку это 1, Core ML может преобразовать вывод только в изображение в оттенках серого. Для цветного изображения требуется 3 канала или форма (3, 513, 513).

Поскольку это DeepLab, я предполагаю, что ваше изображение в оттенках серого на самом деле содержит не цвета, а индекс класса (другими словами, вы взяли ARGMAX по прогнозам). На мой взгляд, самый простой способ превратить это изображение в градациях серого (на самом деле маску сегментации) в цветное - это сделать это в Swift или в Metal.

Вот пример исходного кода: https://github.com/hollance/SemanticSegmentationMetalDemo

person Matthijs Hollemans    schedule 10.09.2020
comment
Прикрепленный вывод изображения в градациях серого, который я получаю из предыдущего слоя, который я добавил к вышеупомянутому вопросу. Ничего страшного, если мне не вернут оригинальные цвета. Если я смогу сделать сегментированную часть прозрачной, превратив ее в трехканальную, даже с некоторыми значениями по умолчанию, я буду счастлив. Я возьму это и использую как маску для совмещения с исходным изображением. Спасибо за ссылку, я тоже посмотрю на это. - person Saran; 10.09.2020